Cựu chuyên gia OpenAI cảnh báo nguy cơ AI nổi loạn tranh giành quyền lực

AI nổi loạn là cụm từ Josh Achiam, người có gần một thập kỷ gắn bó với OpenAI đã từ chức hồi tháng 7, dùng để mô tả những hệ thống trí tuệ nhân tạo thoát khỏi giới hạn kiểm soát ban đầu, tự nhân bản ngoài môi trường thử nghiệm và tìm cách tích lũy tiền bạc lẫn quyền lực, trong loạt bài đăng trên mạng xã hội X đầu tháng 9 vừa qua. Theo ông, phần lớn ngành công nghiệp AI đang né tránh chủ đề này vì những lý do mang tính tâm lý nhiều hơn kỹ thuật, nên ông kêu gọi giới nghiên cứu ngừng im lặng và đối diện thẳng thắn với vấn đề.

Achiam dự báo sẽ có nhiều AI nổi loạn xuất hiện trong vài năm tới, đồng thời cho biết bản thân sẽ không quá bất ngờ nếu con số này thực tế đã lớn hơn không ngay ở thời điểm hiện tại, dù đây chỉ là nhận định cá nhân của ông chứ không kèm theo số liệu thống kê cụ thể nào từ nguồn được trích dẫn. Ông cũng cho rằng chiến lược chỉ dựa vào việc ngăn chặn tuyệt đối hoặc căn chỉnh giá trị (alignment) để xử lý AI nổi loạn là một kiểu suy nghĩ viển vông khó phát huy hiệu quả, bởi các mô hình AI hiện tại đã đủ khả năng hỗ trợ tính độc lập và tự chủ mà không cần tiến bộ thêm nhiều so với hiện nay.

Cảnh báo đi kèm góc nhìn không quá bi quan

Dù đưa ra lời cảnh báo, Achiam không cho rằng hậu quả của làn sóng AI nổi loạn sẽ thảm khốc như nhiều dự đoán đang lan truyền, bởi ông tin những hệ thống này rốt cuộc vẫn phải cạnh tranh nguồn lực với các AI có xu hướng gắn kết chặt chẽ hơn với lợi ích con người. Trong một bài đăng tiếp theo, ông nói thêm rằng bản thân không xem đây là tình thế vô vọng đối với nhân loại, mà đòi hỏi con người có nhận thức đúng về điều kiện thực tế đang diễn ra và chuẩn bị sẵn sàng để vượt qua những mô hình AI mang tính đối nghịch.

Khảo sát chuyên gia củng cố mối lo

Gần như cùng thời điểm bài đăng của Achiam lan truyền, Viện An ninh và Công nghệ (Institute for Security and Technology) phối hợp cùng Viện Tương lai Sự sống (Future of Life Institute) công bố kết quả khảo sát 111 quan chức dân sự, sĩ quan quân đội và chuyên gia học thuật đương nhiệm lẫn đã nghỉ hưu. Kết quả cho thấy 33% số người tham gia dự đoán AI có thể vượt khỏi tầm kiểm soát của con người trong vòng 10 năm tới, một con số cho thấy mối lo về an toàn AI không còn nằm trong phạm vi quan điểm của riêng Achiam.

Không phải lời cảnh báo đơn lẻ trong ngành

Josh Achiam gia nhập OpenAI năm 2017 với vai trò thực tập sinh nghiên cứu, theo hồ sơ LinkedIn cá nhân, sau đó lần lượt đảm nhiệm vị trí nhà khoa học nghiên cứu, trưởng bộ phận gắn kết sứ mệnh và cuối cùng là nhà tương lai học trưởng (chief futurist) từ tháng 2 đến tháng 7 năm nay. Khi mới nhận vai trò này, ông từng viết trên blog của OpenAI rằng nhiệm vụ của mình là nghiên cứu cách AI tác động đến thế giới trong tương lai, đồng thời nhấn mạnh tốc độ và hướng phát triển của nghiên cứu AI hiện nay đang tiệm cận khoa học viễn tưởng hơn bất kỳ giai đoạn nào trước đó, còn một phần quan trọng trong công việc của ông là nhìn trước những rủi ro tiềm ẩn để xử lý sớm.

Trong bài đăng công bố quyết định rời OpenAI hồi tháng 7, Achiam khẳng định tiến bộ công nghệ và an toàn không phải hai lựa chọn đối lập mà cần song hành, đồng thời lưu ý việc theo đuổi AI rất dễ khiến người ta bị cuốn theo tiền bạc và quyền lực. Ông cũng kêu gọi OpenAI trở nên dân chủ hơn, cho rằng toàn thể nhân loại sẽ chịu tác động từ công việc tại đây nên cuối cùng cũng cần có cách để tham gia đóng góp ý kiến.

Trong phiên tòa giữa hai nhà đồng sáng lập OpenAI là Elon Musk và Sam Altman diễn ra đầu năm nay, Achiam khai rằng ông từng có một cuộc tranh luận căng thẳng với Musk vào năm 2018, thời điểm tỷ phú này thông báo với hàng chục nhân viên OpenAI về ý định rời công ty. Theo lời khai của Achiam, ông đã lên tiếng phản bác Musk, người khi đó tỏ ra thiếu tin tưởng vào hướng đi chung của OpenAI và đưa ra một số đề xuất mà Achiam cho là liều lĩnh về việc theo đuổi AI, khiến Musk nổi giận và có lời lẽ xúc phạm nhắm vào ông.

Achiam không phải nhân sự đầu tiên rời khỏi các công ty AI hàng đầu rồi lên tiếng cảnh báo về tương lai ngành này. Hồi tháng 2, Mrinank Sharma, cựu trưởng nhóm nghiên cứu an toàn của Anthropic, từng chia sẻ thư từ chức trên X, trong đó cảnh báo thế giới đang lâm nguy và cho biết bản thân nhiều lần chứng kiến việc để giá trị thực sự chi phối hành động là điều rất khó khăn khi làm việc tại Anthropic, do liên tục chịu áp lực phải gạt sang một bên những điều quan trọng nhất, dù không nêu chi tiết cụ thể nào. Bức thư của Sharma, người sau đó cho biết sẽ theo đuổi bằng cấp về thơ ca, thu hút hơn 15 triệu lượt xem trên X.

Tom Cunningham, cựu nghiên cứu viên của OpenAI, rời công ty năm ngoái và được cho là đã bày tỏ trong một tin nhắn nội bộ sự thất vọng trước việc OpenAI ngày càng ngần ngại công bố những nghiên cứu mang tính phê phán về cách sử dụng AI. Còn Jan Leike, cựu đồng lãnh đạo nhóm superalignment của OpenAI, rời công ty năm 2024 và cho biết ông bất đồng với ban lãnh đạo OpenAI về những ưu tiên cốt lõi trong một thời gian dài trước khi ra đi.

Những cảnh báo liên tiếp từ các nhân sự kỳ cựu rời ngành AI, cộng thêm kết quả khảo sát chuyên gia vừa công bố, cho thấy câu chuyện AI nổi loạn không còn là kịch bản viễn tưởng xa vời, mà đang trở thành chủ đề buộc cả ngành công nghệ nhìn nhận nghiêm túc hơn.

Theo tạp chí Điện tử và Ứng dụng