Sự thật thì phức tạp hơn nhiều và có thể còn đáng báo động hơn | ID: 393806

Trong giai đoạn 2016 - 2017, mô hình kinh doanh của Facebook dựa vào việc tối đa hóa tương tác người dùng để thu thập nhiều dữ liệu hơn, bán nhiều quảng cáo hơn và chiếm được thị phần lớn hơn trên thị trường thông tin. Ngoài ra, sự gia tăng tương tác người dùng cũng gây ấn tượng với các nhà đầu tư, từ đó đẩy giá cổ phiếu của Fb tăng cao. Mọi người càng dành nhiều thời gian trên nền tảng này, FB càng trở nên giàu có. (Hãy nhớ khi bạn sử dụng cái gì miễn phí - khi đó chính bạn là sản phẩm). Đi theo mô hình kinh doanh như vậy, những nhà quản lý đã đưa ra cho các thuật toán của công ty một mục tiêu quan trọng hơn cả: tăng mức độ tương tác của người dùng. Các thuật toán sau đó bằng trải nghiệm của hàng triệu người dùng đã nhận thấy sự phẫn nộ sẽ tạo ra tương tác. Con người có nhiều khả năng tham gia tương tác với một thuyết âm mưu đầy oán hận hơn là với một bài thuyết giảng về lòng trắc ẩn hay với một bài học nấu ăn. Vì vậy, nhằm theo đuổi mục tiêu gia tăng tương tác người dùng, các thuật toán đã đưa ra quyết định tai hại là lan truyền sự phẫn nộ.

Các chiến dịch thanh lọc sắc tộc không bao giờ là lỗi của chỉ một hội nhóm. Trách nhiện đến từ nhiều bên hữu quan. Rõ ràng là việc căm phẫn người Rohingya đã có từ trước khi Facebook thâm nhập vào thị trường Myanmar và phần lớn trách nhiệm cho những hành động bạo tàn giai đoạn 2016 - 2017 cần được quy cho những người như Wirathu và giới tướng lĩnh quân sự Myanmar, cũng như lãnh đạo của nhóm ARSA đã châm ngòi cho vòng tròn bạo lực đó. Một số trách nhiệm cũng thuộc về các kỹ sư và CEO của FB, những người đã lập trình ra các thuật toán, trao cho chúng nhiều quyền lực và không giám sát chúng. Nhưng điều quan trọng là bản thân các thuật toán cũng có trách nhiệm. Qua quá trình thử - sai, chúng đã học được rằng sự phẫn nộ giúp gia tăng tương tác, và dù không có bất kỳ mệnh lệnh rõ ràng nào từ bên trên, chúng vẫn quyết định phổ biến sự phẫn nộ. Đây là dấu ấn đặc trưng của AI - khả năng của một cỗ máy tự tìm hiểu và tự mình hành động. Ngay cả khi chúng ta chỉ phân bổ 1% trách nhiệm cho các thuật toán, đây vẫn là chiến dịch thanh lọc sắc tộc đầu tiên trong lịch sử có một phần lỗi trong các quyết định đến từ thứ trí tuệ không phải của con người. Và đây chắc cũng không phải là lần cuối cùng, đặc biệt khi các thuật toán không còn chỉ quảng bá những tin tức giả mạo và thuyết âm mưu do những phần tử cực đoan bằng xương bằng thịt như Wirathu tạo ra nữa. Vào đầu những năm 2020, các thuật toán đã có thể tự mình tạo ra những tin tức giả mạo và các thuyết âm mưu.

Trích từ phía sau mạng xã hội - Nexus - Yuval Noah Harari