Livestream xả súng và sự bất lực của các ông lớn công nghệ

Việc nghi can thảm sát tại hai nhà thờ Hồi giáo ở TP Christchurch (New Zealand) ngày 15-3 quay và phát trực tiếp (livestream) cảnh hắn ra tay trên Facebook có thể đã thành công ngoài mong đợi của kẻ thủ ác.


Đoạn video dài 17 phút không chỉ ngang nhiên xuất hiện trên mạng xã hội này mà còn gần như không thể xóa được tận gốc. Thủ tướng New Zealand Jacinda Ardern hôm 17-3 tuyên bố sẽ làm việc với lãnh đạo Facebook vì bà không chấp nhận việc ngay từ đầu Facebook đã để nghi phạm Brenton Tarrant bật chế độ livestream và phát trực tiếp cảnh hắn đi từ xe hơi, với tay lấy súng và xả đạn vào những người vô tội.



Cảnh sát báo, Facebook mới biết vụ livestream chết chóc

Đoạn video xả súng kinh hoàng ở Christchurch đã được sao chép và đăng lại trên nhiều nền tảng khác trên mạng, gồm Reddit, Twitter, YouTube. Quy trình cứ thế lặp lại: đoạn video lẽ ra không nên tồn tại tiếp tục được chia sẻ, sao chép, tải lên mạng.

Thủ tướng Ardern hoàn toàn có lý khi truy trách nhiệm của Facebook. Như ông Mia Garlick, đại diện Facebook New Zealand, thừa nhận trong một thông cáo chính thức, Facebook chỉ biết đến sự tồn tại của vụ livestream sau khi "nhận được thông báo từ cảnh sát New Zealand".

Cả Facebook, YouTube, Twitter đều tuyên bố đã tích cực áp dụng cả các công cụ trí tuệ nhân tạo (AI) và nhân viên là con người để xóa video ra khỏi hệ thống. Nhưng gần 20 phút mới can thiệp dường như là quá chậm, trong cái thời mà một status nói hớ đăng trên Facebook cá nhân cũng có thể bị chụp màn hình trong vòng vài giây ngay trước khi chủ nhân kịp xóa.

Trong một cuộc họp báo hôm 17-3, bà Ardern cho biết Chính phủ New Zealand đã làm mọi cách có thể để gỡ video xả súng khỏi Internet, nhưng "lực bất tòng tâm". "Tuy chúng tôi đã làm hết sức để xóa hoặc yêu cầu xóa đoạn video, chuyện này tùy thuộc vào các nền tảng công nghệ có hỗ trợ chúng tôi hoặc sẵn sàng xóa chúng không" - trang NewsHub của New Zealand dẫn lời nữ thủ tướng.

Bà Ardern không giấu ý chỉ trích Facebook đã "dung túng" một đoạn video khủng khiếp như vậy, và nhấn mạnh đây không còn là chuyện của New Zealand mà là vấn đề toàn cầu. Mong muốn của nhà lãnh đạo New Zealand là những vụ việc như vậy trong tương lai phải được Facebook hay bất kỳ nền tảng nào chặn càng sớm càng tốt.

Mặt trái của công nghệ

Về mặt kỹ thuật, cách để các nền tảng như Facebook và YouTube ngăn một đoạn video được tải lại sau khi đoạn băng gốc đã bị xóa là mã hóa thông tin của đoạn video đó, và dùng AI để so sánh với các video được đưa lên sau đó. Nếu thông tin mã hóa trùng nhau, hệ thống tự động sẽ biết nội dung đưa lên chính là bản sao của video đã xóa trước đó và chặn ngay.

Nhưng điều gì sẽ xảy ra nếu đoạn video sao chép được chỉnh sửa một chút, chẳng hạn phóng to khung hình, tăng tốc độ hoặc thay đổi âm thanh so với clip gốc? Thông tin mã hóa sẽ khác nhau và hệ thống kiểm duyệt chắc chắn sẽ để lọt.

Nếu ví chuyện video được sao chép và lan truyền trên mạng như con rắn huyền thoại bị chặt đầu này lại mọc đầu khác, thì con rắn này còn "thần kỳ" hơn: những cái đầu mới sẽ khác một chút so với cái gốc, và khó phát hiện hơn.

Theo trang The Verge, YouTube đã tính đến trường hợp này và áp dụng thêm một lớp duyệt nội dung do con người phụ trách. Các video nghi là được chỉnh sửa từ video gốc sẽ được chuyển từ lọc tự động sang cho con người xem và quyết định chúng có vi phạm nội quy hay không. Thế nhưng ranh giới giữa việc xác định đâu là video có giá trị về mặt tin tức, đâu là thứ phải xóa ngay là vô cùng mong manh.

Cuối cùng, cái khó của YouTube và Facebook, bất kể đầu tư mạnh mẽ vào AI và "quản trị viên" con người như thế nào, chính là kiểm duyệt video đã khó, các đoạn phát trực tiếp (livestream) còn khó hơn. Khi mọi thứ diễn ra theo thời gian thực, làm sao máy móc hay con người biết rằng sau đoạn mở màn với cảnh người đàn ông lái xe hơi vô hại của một đoạn livestream sẽ là cảnh hắn cầm súng bắn người?

Đó là mặt trái của công nghệ, và câu hỏi làm sao để chặn video không phù hợp và loại chúng khỏi Internet vẫn sẽ còn đó, dù có được nhắc lại bằng bao nhiêu vụ việc đau lòng như thảm sát Christchurch đi nữa.

(Bài đã đăng Tuổi Trẻ ngày 19-3)

Comments

Popular posts from this blog

[Truyện ngắn] Am cu ly xe - Thanh Tịnh