Molly Russell là cô bé tràn đầy yêu thương, hy vọng trước khi qua đời - Ảnh: The Russell family
Những cái chết chấn động do thuật toán gây nghiện
Trong nhiều năm, các nền tảng mạng xã hội luôn khẳng định họ chỉ phản ánh sở thích của người dùng.
Nhưng ngày càng nhiều nghiên cứu, vụ kiện và điều tra cho thấy thuật toán không chỉ hiển thị nội dung mà còn chủ động khuếch đại những gì gây tranh cãi, kích động cảm xúc hoặc khiến người dùng khó rời màn hình nhất.
Các nền tảng như TikTok, Instagram, Facebook hay YouTube vận hành dựa trên "attention economy" - nền kinh tế kinh doanh sự chú ý. Càng giữ người dùng ở lại lâu, nền tảng càng hiển thị nhiều quảng cáo và tạo ra nhiều lợi nhuận hơn.
Để làm được điều đó, thuật toán AI liên tục phân tích những video người dùng xem lâu hơn, các bài đăng khiến họ dừng lại, nội dung tạo phản ứng cảm xúc mạnh hay các chủ đề gây tranh cãi.
Những tính năng như cuộn vô tận (infinite scroll), video tự phát (autoplay) hay thông báo liên tục nhảy không phải ngẫu nhiên xuất hiện.
Các nghiên cứu gần đây gọi hiện tượng này là "dopamine-scrolling" - trạng thái người dùng liên tục lướt để tìm kiếm cảm giác kích thích ngắn hạn từ video mới, lượt thích hoặc thông báo.
Theo nghiên cứu "Dopamine-scrolling: a modern public health challenge requiring urgent attention" (Lướt mạng tìm Dopamine: Thách thức sức khỏe cộng đồng hiện đại cần sự chú ý khẩn cấp) được xuất bản trên tạp chí Perspectives in Public Health (thuộc Hiệp hội Hoàng gia về sức khỏe cộng đồng của Anh) vào năm 2025, các nền tảng mạng xã hội sử dụng những nguyên lý tâm lý học cơ bản nhằm duy trì sự tương tác của người dùng, trong đó nội dung video ngắn đặc biệt hiệu quả trong việc giữ người dùng trong vòng lặp lướt liên tục.
Về mặt thần kinh học, mỗi lần người dùng nhận được tương tác mới hoặc lướt sang một video khác, não sẽ giải phóng một lượng nhỏ dopamine - chất dẫn truyền thần kinh liên quan đến cảm giác phần thưởng.
Theo thời gian, cơ chế này khiến người dùng liên tục quay lại ứng dụng để tìm kiếm cảm giác hưng phấn ngắn hạn từ nội dung mới, tương tự cách các trò cờ bạc giữ chân người chơi bằng những lần thắng ngẫu nhiên.
Điều khiến giới chức ngày càng lo ngại là thuật toán thường ưu tiên những nội dung tạo cảm xúc mạnh nhất, bởi chúng giúp giữ chân người dùng hiệu quả hơn. Hệ quả là những nội dung độc hại không chỉ tồn tại trên mạng xã hội mà còn được khuếch đại ra đời thực.
Ở Anh, thiếu nữ 16 tuổi tên Princess-Bliss Dickson được phát hiện tử vong hồi tháng 2 vừa qua sau thời gian dài bị bắt nạt ngoại hình trên mạng xã hội khi hoạt động với tư cách influencer.
Gia đình cho biết cô bé liên tục hứng chịu các bình luận chế giễu từ năm 14 tuổi, trong khi những bài đăng và hình ảnh của cô bị đem ra bàn tán trên các diễn đàn trực tuyến suốt nhiều năm.
Sau khi Princess-Bliss qua đời, mẹ cô bé tiếp tục trở thành mục tiêu công kích trên mạng vì đăng tải hình ảnh bên linh cữu con gái.
Trước đó, một vụ việc kinh điển khác từng làm thay đổi hoàn toàn cục diện quản lý mạng xã hội tại Anh là cái chết của Molly Russell, cô bé 14 tuổi tự kết liễu đời mình vào năm 2017.
Khác với những vụ tấn công trực tiếp, cuộc điều tra kéo dài nhiều năm sau đó đã phơi bày một sự thật chấn động: thuật toán của Instagram và Pinterest đã liên tục gợi ý Molly tiếp cận hàng ngàn nội dung cổ xúy tự hại và trầm cảm, khiến tâm lý một đứa trẻ đang bất ổn rơi vào bế tắc không lối thoát.
Trong sáu tháng trước khi qua đời năm 2017, Molly đã tương tác với hơn 2.100 nội dung liên quan đến tự hại, trầm cảm và tự tử trên Instagram. Pinterest còn gửi cho cô bé các email với tiêu đề như "10 ghim về trầm cảm mà bạn có thể thích" hay "ý tưởng mới dành cho bạn về trầm cảm".
Cuộc điều tra tại Anh kết luận các nền tảng đã vận hành bằng thuật toán khiến Molly liên tục bị đẩy tới các nội dung tự hại, trong đó có nhiều nội dung được đề xuất mà cô không chủ động tìm kiếm.
Đây là lần đầu tiên tại Anh, một cơ quan điều tra chính thức kết luận mạng xã hội góp phần đáng kể vào cái chết của trẻ vị thành niên, đồng thời tạo áp lực lớn thúc đẩy nước này thông qua Đạo luật An toàn trực tuyến (Online Safety Act).
Không chỉ dừng ở bắt nạt trực tuyến hay nội dung tiêu cực, các nền tảng còn bị chỉ trích vì thuật toán có xu hướng khuếch đại những nội dung gây sốc và dễ lan truyền mạnh, bao gồm cả các trào lưu nguy hiểm. "Blackout Challenge" - thử thách lan truyền trên TikTok khuyến khích người tham gia nín thở đến bất tỉnh - đã bị cho là liên quan đến nhiều ca tử vong trẻ em tại Mỹ và Anh trong nhiều năm qua.
Nhà sáng lập kiêm giám đốc điều hành Meta Mark Zuckerberg đến tham dự phiên tòa bang California ngày 25-3 - Ảnh: AP
Xử lý các thiết kế gây nghiện
Sau nhiều năm tập trung vào quyền riêng tư dữ liệu và chống độc quyền, Liên minh châu Âu (EU) hiện bắt đầu nhắm trực tiếp vào cốt lõi mô hình kinh doanh của các tập đoàn công nghệ lớn (Big Tech): các thuật toán và thiết kế giữ chân người dùng.
Trọng tâm mới nhất là Digital Fairness Act (DFA) - đạo luật đang được Ủy ban châu Âu chuẩn bị đệ trình vào quý 4 năm nay - nhằm xử lý các "thiết kế gây nghiện" trên nền tảng số.
Khác với các quy định trước đây vốn tập trung vào nội dung bất hợp pháp, DFA nhắm vào chính cách các nền tảng được xây dựng.
Những cơ chế như lướt vô tận, video tự phát, thuật toán đề xuất nội dung, quảng cáo cá nhân hóa và các "dark patterns" - kiểu giao diện được thiết kế để giữ người dùng ở lại càng lâu càng tốt hoặc thúc đẩy họ đưa ra quyết định ngoài ý muốn - đang bị EU xem là công cụ thao túng hành vi người dùng.
Các biện pháp đang được cân nhắc bao gồm tắt mặc định các tính năng gây nghiện, cho phép người dùng từ chối thuật toán đề xuất và xem xét lệnh cấm hoàn toàn các tính năng có hại trên đối với trẻ vị thành niên.
Song song đó, tháng 11-2025 Nghị viện châu Âu thông qua nghị quyết với 483 phiếu thuận nhằm đề xuất độ tuổi tối thiểu thống nhất trên toàn EU là 16 tuổi để truy cập mạng xã hội, nền tảng chia sẻ video và các chatbot AI đồng hành (AI companion).
Trẻ từ 13-15 tuổi có thể được dùng nếu có sự đồng ý của phụ huynh, còn dưới 13 tuổi bị cấm tuyệt đối, không có ngoại lệ.
Vụ kiện giữa Meta, YouTube và một phụ nữ trẻ tại California (Mỹ) vào tháng 3 vừa qua đã trở thành bước ngoặt lớn trong tranh cãi về trách nhiệm của mạng xã hội với sức khỏe tâm thần thanh thiếu niên.
Đây là lần đầu tiên trong lịch sử một bồi thẩm đoàn kết luận các nền tảng công nghệ phải chịu trách nhiệm không phải vì nội dung người dùng đăng lên mà vì chính cách chúng được thiết kế để gây nghiện.
Cụ thể, nguyên đơn là KGM, hiện 20 tuổi, khai trước tòa rằng cô bắt đầu "nghiện" YouTube từ năm 6 tuổi và Instagram từ năm 9 tuổi, sau đó rơi vào trầm cảm, tự làm hại bản thân và mắc chứng rối loạn hình thể.
Các luật sư cho rằng những tính năng như lướt vô tận và tự phát video được tạo ra để giữ chân người dùng nhỏ tuổi ở lại ứng dụng, từ đó hình thành hành vi sử dụng mang tính gây nghiện.
Meta phản bác rằng các vấn đề tâm lý của KGM xuất phát từ nhiều yếu tố khác nhau và "không thể quy trách nhiệm đó cho một ứng dụng duy nhất".
Trong khi đó, YouTube khẳng định mình là "nền tảng phát trực tuyến chứ không phải mạng xã hội" - lập luận được cho là có thể giúp Google tránh khỏi nhiều quy định bảo vệ trẻ em khỏi mạng xã hội đang được siết chặt tại châu Âu và Mỹ.
Tuy nhiên, bồi thẩm đoàn Los Angeles đã bác bỏ các lập luận này, kết luận Meta và YouTube phải chịu trách nhiệm vì "cố tình thiết kế sản phẩm gây nghiện" khiến KGM bị tổn hại tâm lý. Hai công ty bị yêu cầu bồi thường tổng cộng 6 triệu USD.
Châu Âu lo trẻ em nghiện mạng xã hội
Theo khảo sát của Cơ quan về các quyền cơ bản Liên minh châu Âu (FRA) với hơn 26.000 người tham gia trên khắp EU được công bố hồi tháng 3 vừa qua, phần lớn người dân lo ngại trẻ em đang đối mặt ngày càng nhiều rủi ro trên mạng xã hội.
Ba mối lo lớn nhất gồm trẻ tiếp xúc nội dung bạo lực (89%), nguy cơ bị bóc lột trực tuyến (89%) và nghiện mạng xã hội (88%). Có tới 74% người được hỏi cho rằng cần đặt giới hạn độ tuổi để trẻ em không được sử dụng mạng xã hội quá sớm.
