OpenAI đóng cửa hoạt động tác động bầu cử sử dụng ChatGPT
OpenAI chặn tài khoản ChatGPT liên quan đến hoạt động ảnh hưởng của Iran
Theo một bài đăng trên blog của OpenAI vào thứ Sáu, công ty đã chặn một nhóm tài khoản ChatGPT liên kết với một hoạt động ảnh hưởng của Iran nhằm tạo nội dung về cuộc bầu cử tổng thống Hoa Kỳ. OpenAI cho biết hoạt động này đã tạo ra các bài báo và bài đăng trên mạng xã hội do AI tạo ra, mặc dù dường như nó không tiếp cận được nhiều đối tượng.
Không phải lần đầu tiên OpenAI chặn tài khoản liên quan đến hoạt động ảnh hưởng
Đây không phải là lần đầu tiên OpenAI chặn các tài khoản liên kết với các diễn viên thuộc chính phủ sử dụng ChatGPT một cách độc hại. Vào tháng 5, công ty đã ngăn chặn năm chiến dịch sử dụng ChatGPT để thao túng dư luận.
Hoạt động ảnh hưởng sử dụng AI đang gia tăng
Những sự kiện này gợi nhớ lại việc các diễn viên thuộc chính phủ sử dụng các nền tảng mạng xã hội như Facebook và Twitter để cố gắng ảnh hưởng đến các chu kỳ bầu cử trước đây. Giờ đây, các nhóm tương tự (hoặc có thể là cùng một nhóm) đang sử dụng AI tạo sinh để tràn ngập các kênh xã hội bằng thông tin sai lệch. Tương tự như các công ty truyền thông xã hội, OpenAI dường như đang áp dụng cách tiếp cận "chơi trò đuổi bắt", chặn các tài khoản liên quan đến những nỗ lực này khi chúng xuất hiện.
Báo cáo của Microsoft Threat Intelligence giúp OpenAI xác định hoạt động ảnh hưởng
OpenAI cho biết cuộc điều tra của họ về nhóm tài khoản này được hưởng lợi từ báo cáo của Microsoft Threat Intelligence được công bố vào tuần trước, báo cáo đã xác định nhóm này (mà họ gọi là Storm-2035) là một phần của một chiến dịch rộng lớn hơn nhằm ảnh hưởng đến cuộc bầu cử Hoa Kỳ hoạt động từ năm 2020.
Microsoft cho biết Storm-2035 là một mạng lưới của Iran với nhiều trang web bắt chước các cơ quan truyền thông và "tích cực tham gia vào các nhóm cử tri Hoa Kỳ ở hai đầu đối lập của phổ chính trị với thông điệp phân cực về các vấn đề như ứng cử viên tổng thống Hoa Kỳ, quyền LGBTQ và cuộc xung đột Israel-Hamas." Kịch bản, như đã được chứng minh trong các hoạt động khác, không nhất thiết là để thúc đẩy một chính sách nào đó mà là để gieo rắc bất đồng và xung đột.
Storm-2035 sử dụng ChatGPT để tạo nội dung giả mạo
OpenAI đã xác định năm trang web mặt trận cho Storm-2035, trình bày cả như các cơ quan truyền thông tiến bộ và bảo thủ với tên miền thuyết phục như "evenpolitics.com." Nhóm này đã sử dụng ChatGPT để soạn thảo một số bài báo dài, bao gồm một bài báo cáo buộc rằng "X kiểm duyệt các tweet của Trump," điều mà nền tảng của Elon Musk chắc chắn chưa làm (nếu có, Musk đang khuyến khích cựu tổng thống Donald Trump tham gia nhiều hơn trên X).
Trên mạng xã hội, OpenAI đã xác định một tá tài khoản X và một tài khoản Instagram do hoạt động này kiểm soát. Công ty cho biết ChatGPT đã được sử dụng để viết lại nhiều bình luận chính trị, sau đó được đăng trên các nền tảng này. Một trong những tweet này đã sai lệch và gây nhầm lẫn, cáo buộc rằng Kamala Harris quy "chi phí nhập cư tăng" cho biến đổi khí hậu, tiếp theo là "#DumpKamala."
Hoạt động ảnh hưởng của Storm-2035 có hiệu quả hạn chế
OpenAI cho biết họ không thấy bằng chứng cho thấy các bài báo của Storm-2035 được chia sẻ rộng rãi và lưu ý rằng phần lớn các bài đăng trên mạng xã hội của họ nhận được ít hoặc không có lượt thích, chia sẻ hoặc bình luận. Điều này thường xảy ra với các hoạt động này, vốn nhanh chóng và rẻ tiền để khởi động bằng cách sử dụng các công cụ AI như ChatGPT. Hãy mong đợi sẽ thấy nhiều thông báo như thế này hơn khi cuộc bầu cử đến gần và tranh cãi chính trị trực tuyến gia tăng.