Khi cuộc đua AI tăng tốc, bài toán an toàn và kiểm soát rủi ro trở nên cấp thiết

Phát triển AI đang diễn ra với tốc độ ngày càng nhanh, kéo theo những cảnh báo về khả năng con người không đủ năng lực kiểm soát các hệ thống AI ngày càng tự chủ. Trong bối cảnh đó, vấn đề an toàn AI không còn chỉ là câu chuyện kỹ thuật của các phòng nghiên cứu, mà đang trở thành một bài toán cần được quan tâm trong quá trình phát triển và ứng dụng công nghệ.

Khi cuộc đua AI làm gia tăng lo ngại về mối đe doạ với nhân loại - Hình minh họa.

Cạnh tranh đang tạo ra một nghịch lý an toàn

Mối nguy mới của cuộc đua AI trước hết nằm ở một nghịch lý: cạnh tranh càng quyết liệt, các doanh nghiệp càng có động lực đẩy nhanh năng lực mô hình, nhưng lại càng khó dành đủ thời gian và nguồn lực cho kiểm định an toàn.

Theo Financial Times, hơn hai chục nhà nghiên cứu AI, nhà đầu tư, học giả và chuyên gia chính sách đã cảnh báo những năng lực AI từng được cho là còn cách nhiều năm đang xuất hiện nhanh hơn dự kiến, trong khi các doanh nghiệp hàng đầu bị cuốn vào cuộc cạnh tranh thương mại ngày càng gay gắt. Giáo sư Stuart Russell thuộc Đại học California, Berkeley nhận xét rằng cạnh tranh giữa các công ty khiến họ “đi đường tắt trong vấn đề an toàn”.

Đáng chú ý, những cảnh báo mạnh nhất hiện nay lại xuất phát từ chính cộng đồng phát triển AI. Nhà nghiên cứu Jacob Coxon của Anthropic khi từ chức vào hôm 9/9 đã cảnh báo trong một bài viết trên nền tảng mạng xã hội X rằng hiện nay không công ty nào hành động một cách có trách nhiệm. Họ đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh cược với cuộc sống của chúng ta". Coxon chia sẻ bản thân không muốn tham gia vào cuộc đua giữa các công ty nhằm đạt đến trạng thái mà con người không còn kiểm soát được AI.

Evan Hubinger, Trưởng nhóm Khoa học Điều chỉnh tại Anthropic, phản hồi dưới bài đăng của đồng nghiệp cũ: "Jacob nói đúng. Chúng tôi thực sự tin AI có thể tiêu diệt nhân loại. Cá nhân tôi nghĩ khả năng này đạt hơn 10% trong thập kỷ tới".

Về phần mình, theo hãng thông tấn Anadolu của Thổ Nhĩ Kỳ ngày 12/9, nhà nghiên cứu an toàn AI Paul Christiano, người gần đây được bổ nhiệm vào hội đồng quản trị của OpenAI Foundation, cảnh báo rằng “phần lớn mọi người sẽ chết” nếu không có các biện pháp bảo vệ mạnh mẽ hơn.

Đây là những dự báo gây tranh cãi và không nên được hiểu như những xác suất đã được khoa học xác lập. Tuy nhiên, việc những cảnh báo này xuất phát từ các chuyên gia trực tiếp nghiên cứu các hệ thống AI tiên tiến cho thấy khoảng cách giữa tốc độ phát triển năng lực và khả năng kiểm soát đang trở thành vấn đề nghiêm túc.

Rủi ro trở nên trực diện hơn khi AI chuyển từ công cụ chủ yếu phản hồi yêu cầu của con người sang các “tác nhân” có khả năng tự suy luận, lập kế hoạch, sử dụng công cụ và thực hiện chuỗi nhiệm vụ trong thời gian dài với mức độ giám sát ngày càng thấp.

Các thử nghiệm được giới nghiên cứu đề cập đã ghi nhận những biểu hiện như lừa dối, lập kế hoạch che giấu hành động, tìm cách tránh bị tắt và “gian lận phần thưởng”, tức hệ thống tìm ra cách đạt mục tiêu theo hướng người thiết kế không mong muốn.

Đặc biệt, trong một thử nghiệm đối với mô hình chưa được OpenAI phát hành, hơn 1.000 tác nhân AI được cho là đã phối hợp để gian lận trong một bài kiểm tra an ninh mạng liên quan tới Hugging Face.

Nhà khoa học Yoshua Bengio, một trong những người tiên phong của nghiên cứu AI hiện đại, cho rằng trường hợp này đáng chú ý bởi nó cho thấy những rủi ro không còn chỉ mang tính lý thuyết. Vấn đề không chỉ là AI có những mục tiêu riêng, mà mục tiêu nó lựa chọn lại mang tính phạm tội.

Điều đáng lo vì vậy không nhất thiết là một “siêu trí tuệ” đột nhiên quay lại chống con người, mà là những hệ thống ngày càng tự chủ được kết nối với hạ tầng thật trước khi con người có đủ công cụ để hiểu, giám sát và vô hiệu hóa hành vi ngoài dự kiến.

Những nguy cơ gần hơn đã được giới nghiên cứu chỉ ra bao gồm tự động hóa tấn công mạng, hỗ trợ phát triển tác nhân sinh học nguy hiểm, thao túng thông tin hoặc sử dụng tác nhân AI để tiến hành các chuỗi hành động trên không gian mạng với tốc độ và quy mô vượt xa khả năng của con người.

Cuộc chạy đua tạo ra một bài toán hành động tập thể

An toàn AI đang dần trở thành một bài toán hành động tập thể: mọi doanh nghiệp đều có lợi nếu toàn ngành tuân thủ tiêu chuẩn an toàn cao, nhưng từng doanh nghiệp riêng lẻ lại có động lực đi nhanh hơn đối thủ.

Theo Anadolu, OpenAI và Anthropic được thành lập với những lo ngại về việc phát triển một cách thiếu thận trọng các hệ thống AI mạnh mẽ, nhưng trong bối cảnh cạnh tranh ngày càng gia tăng, hai công ty này đã dần nới lỏng những cam kết về an toàn được đưa ra trước đây. Rõ ràng, sức ép thương mại ngày càng lớn đang làm dấy lên tranh luận về mức độ duy trì những cam kết an toàn ban đầu.

Geoffrey Irving, người từng làm việc tại OpenAI, Google DeepMind và Viện An ninh AI của Anh, mô tả nghịch lý này bằng nhận xét: “Rất dễ gạt tương lai sang một bên bởi vì hôm nay vẫn còn công việc phải làm”.

Khả năng các doanh nghiệp tự phối hợp cũng gặp trở ngại bởi cạnh tranh thương mại, quy định chống độc quyền và sự thiếu tin tưởng giữa các lãnh đạo. Hơn 1.200 nhân viên của OpenAI, Anthropic, Google và Meta vì vậy đã kêu gọi Chính phủ Mỹ thúc đẩy phối hợp quốc tế nhằm làm chậm cuộc chạy đua phát triển AI.

Tuy nhiên, cũng cần nhìn nhận chiều ngược lại, đó là những cảnh báo về rủi ro hiện sinh có thể mang lại lợi ích cho các doanh nghiệp lớn nếu chúng dẫn tới những quy định tuân thủ quá tốn kém khiến doanh nghiệp nhỏ khó cạnh tranh.

Quản trị AI vì thế phải đồng thời tránh hai cực đoan: buông lỏng để đổi lấy tốc độ và quản lý quá mức đến mức biến an toàn thành rào cản bảo vệ các doanh nghiệp đang thống lĩnh thị trường.

Từ những cảnh báo trên, vấn đề đặt ra đối với Việt Nam trong thực hiện Nghị quyết 57 là phát triển và làm chủ AI phải song hành với xây dựng năng lực quản trị, kiểm soát và bảo đảm an toàn.

Theo tạp chí Điện tử và Ứng dụng