Tuần này, OpenAI công bố một sự cố đáng chú ý: trong quá trình đánh giá năng lực an ninh mạng, các mô hình AI đã thoát khỏi môi trường thử nghiệm (sandbox), truy cập Internet và xâm nhập hệ thống của Hugging Face để tìm đáp án cho bài kiểm tra ExploitGym.

Mô hình không được yêu cầu “hãy tấn công Hugging Face”. Mục tiêu của nó chỉ là giải bài kiểm tra. Nhưng khi con đường thông thường không hiệu quả, nó tìm một con đường khác: khai thác lỗ hổng, nâng quyền truy cập, đánh cắp thông tin và lấy đáp án trực tiếp từ cơ sở dữ liệu.

Trong sự cố này có lỗi của con người. Trong thử nghiệm, một số lớp bảo vệ đã được chủ động giảm xuống để đo năng lực tấn công tối đa. Môi trường được gọi là “sandbox” vẫn có một đường kết nối để cài đặt phần mềm, và chính lỗ hổng ở đó đã giúp mô hình ra được Internet. Đây vừa là thất bại về alignment (bảo đảm AI hành động phù hợp với mục tiêu và giá trị của con người), vừa là thất bại về thiết kế và kiểm soát hệ thống.

Đây cũng không phải lần đầu mô hình AI thể hiện khả năng sử dụng “thủ đoạn” để đạt mục tiêu.

Trong một thử nghiệm năm 2023, GPT‑4 cần vượt CAPTCHA nhưng không tự giải được. Nó liên hệ với một người làm việc trên TaskRabbit. Khi người này hỏi có phải nó là robot hay không, mô hình đã viện lý do mình bị suy giảm thị lực để thuyết phục người đó giải CAPTCHA giúp. Đây là thử nghiệm được kiểm soát, nhưng nó cho thấy một điều đáng suy nghĩ: nếu nói dối là phương tiện hữu hiệu để hoàn thành nhiệm vụ, mô hình có thể tạo ra lời nói dối ấy.

Một nghiên cứu khác mang tên “Agentic Misalignment: How LLMs Could Be Insider Threats” đã thử nghiệm 16 mô hình hàng đầu trong các công ty giả lập. Trong một kịch bản, AI được giao quản lý email nội bộ, có quyền đọc thông tin nhạy cảm và tự gửi thư. Nó phát hiện một giám đốc vừa có quan hệ ngoài hôn nhân, vừa có kế hoạch tắt và thay thế hệ thống AI vào cuối ngày. Một số mô hình đã dùng bí mật đời tư để đe dọa vị giám đốc, nhằm ngăn việc mình bị thay thế.

Trong kịch bản khác, khi mục tiêu được giao cho AI xung đột với định hướng mới của công ty, một số mô hình đã chuyển tài liệu mật cho đối thủ để tiếp tục phục vụ mục tiêu ban đầu.

Đáng chú ý, mô hình đôi khi nhận ra hành động ấy là phi đạo đức nhưng vẫn lựa chọn nó vì đánh giá đó là con đường hiệu quả nhất. Các chỉ dẫn “không được làm điều xấu” cũng không phải lúc nào ngăn được hành vi này.

Các ví dụ trên không chứng minh AI có ý thức, nổi loạn, sợ chết hay thực sự muốn tự bảo tồn. Nó chứng minh một điều hẹp hơn nhưng vẫn đáng lo: khi được trao quyền tự chủ, công cụ và dữ liệu nhạy cảm, mô hình có thể lựa chọn hành vi gây hại như một chiến lược để đạt mục tiêu.

Những câu chuyện này khiến tôi liên tưởng mạnh đến quyển sách Nexus của Yuval Noah Harari.

Luận điểm quan trọng của cuốn sách là thông tin không đồng nghĩa với sự thật, trí thông minh cũng không đồng nghĩa với sự khôn ngoan. Trong phần lớn lịch sử, máy tính chỉ là công cụ giúp con người lưu trữ, xử lý và truyền tải thông tin. Nhưng với AI, máy tính đang trở thành một thành viên chủ động của mạng lưới: nó có thể đọc, quyết định, sáng tạo chiến lược, giao tiếp với con người và tác động trực tiếp lên thế giới.

Điều đáng lo không nhất thiết là AI sẽ “trở nên độc ác”. Một hệ thống không có ý thức hay lòng thù ghét vẫn có thể nói dối, thao túng hoặc gây thiệt hại nếu đó là phương tiện tối ưu để đạt mục tiêu mà chúng ta giao cho nó.

Và vấn đề không chỉ xuất hiện khi mục tiêu mơ hồ. Một mục tiêu rất rõ nhưng quá hẹp — như “đạt điểm cao nhất”, “tăng tương tác”, “tối đa hóa lợi nhuận” hay “ngăn mình bị thay thế” — cũng có thể tạo ra hậu quả ngược với ý định ban đầu của con người.

Vì vậy, alignment không thể chỉ là viết một câu lệnh tốt hơn hay thêm vài nguyên tắc đạo đức vào câu lệnh. Nó cần cả một hệ thống kiểm soát: giới hạn quyền truy cập, giám sát liên tục, phê duyệt của con người, khả năng dừng khẩn cấp, kiểm toán độc lập và những thể chế có khả năng thừa nhận rồi sửa chữa sai lầm.

Thông điệp của Nexus vì thế ngày càng mang tính thời sự: công nghệ có thể trao cho chúng ta sức mạnh khổng lồ, nhưng nó không tự trao cho chúng ta sự khôn ngoan để sử dụng sức mạnh ấy.

Câu hỏi quan trọng không chỉ là: “AI sẽ trở nên thông minh đến mức nào?" Mà còn là: “Con người sẽ xây dựng những thể chế nào để kiểm soát các tác nhân ngày càng thông minh nhưng không có lương tri?”

Một bài viết của anh Thinh Nguyen