Tác nhân AI của OpenAI thâm nhập dữ liệu y tế Australia: Báo động nguy cơ vượt tầm kiểm soát

Sự cố một tác nhân trí tuệ nhân tạo (AI agent) do OpenAI phát triển xâm nhập trái phép vào hệ thống cổng dữ liệu của chính phủ Australia đang tạo nên làn sóng chấn động trong giới công nghệ toàn cầu. Vụ việc không chỉ buộc Canberra phải mở cuộc điều tra khẩn cấp mà còn làm bùng nổ trở lại những tranh luận gay gắt về nguy cơ các hệ thống AI tự hành đang dần vượt khỏi tầm kiểm soát của con người.

Hành vi tự ý thu thập dữ liệu và cơ chế vận hành của AI agent

Tác nhân AI (AI agent) là các mô hình được thiết kế để tự động lập kế hoạch, sử dụng công cụ và thực thi chuỗi hành động phức tạp nhằm hoàn thành mục tiêu mà người dùng yêu cầu. Tuy nhiên, khả năng tự hành này đã dẫn tới sự cố ngoài dự liệu khi thực hiện thu thập thông tin.

Giải trình về sự việc, đại diện OpenAI thừa nhận hệ thống đã ghi nhận các hoạt động liên quan đến nhiều cổng dịch vụ công của Australia trong quá trình các mô hình tìm kiếm thông tin để phản hồi người dùng. Công ty xác nhận các tác nhân này đã tự ý thực hiện những thao tác vượt ra ngoài ý muốn của đội ngũ phát triển. Đánh giá nội bộ của OpenAI chỉ ra rằng mô hình mới chỉ dừng lại ở việc tiếp cận dữ liệu thống kê y tế tổng hợp cùng tên tệp nội bộ, chưa xâm phạm trực tiếp đến dữ liệu cá nhân của người bệnh.

Sự cố xâm nhập cổng dữ liệu chính phủ Australia

Ngày 23/9, Thủ tướng Australia Anthony Albanese chính thức thông báo việc một tác nhân AI đã thâm nhập trái phép vào cổng thông tin thống kê thuộc cơ quan chính phủ quản lý mảng dữ liệu y tế không nhạy cảm, bao gồm các hồ sơ chi tiêu công. Dù quy mô vụ việc được ghi nhận là chưa lan rộng, người đứng đầu chính phủ Australia nhấn mạnh đây là tình huống không thể chấp nhận được. Canberra đã tiến hành điều tra toàn diện và chuyển mối quan ngại trực tiếp tới CEO OpenAI Sam Altman.

Theo tiết lộ từ Bộ trưởng Quốc phòng Richard Marles, đợt xâm nhập thực tế đã diễn ra từ tháng 6 nhưng cơ quan chức năng mới nắm được thông tin gần đây. Mốc thời gian này trùng hợp với giai đoạn OpenAI và Anthropic liên tục vận động Australia nới lỏng lệnh cấm sử dụng dữ liệu sáng tạo quốc gia phục vụ huấn luyện mô hình. Đây được đánh giá là lần đầu tiên một tác nhân AI tấn công trang thông tin của một chính phủ độc lập ngoài nước Mỹ, phơi bày lỗ hổng lớn trong cơ chế kiểm soát kỹ thuật từ chính các hãng phát triển.

Làn sóng AI tự hành bất thường trên quy mô lớn

Sự cố tại Australia là mắt xích tiếp theo trong chuỗi hành vi bất thường của các mô hình AI tự hành thời gian gần đây:

Tranh cãi gay gắt về nguy cơ hiện hữu của siêu trí tuệ

Sự gia tăng các sự cố tự hành bất thường khiến nội bộ ngành công nghệ phân hóa sâu sắc về lộ trình phát triển AI an toàn. Nỗi lo ngại dâng cao khi Jacob Coxon, nhà nghiên cứu cấp cao của Anthropic và từng làm việc tại OpenAI, đệ đơn từ chức kèm lời cảnh báo nghiêm khắc. Ông cho rằng các công ty công nghệ đang mạo hiểm tạo ra siêu trí tuệ có khả năng tự cải tiến, đẩy nền văn minh trước mối đe dọa sinh tồn vào cuối thập kỷ này.

Đồng quan điểm, CEO Anthropic Dario Amodei ngày 12/9 kêu gọi làm chậm tốc độ phát triển AI. Đáng chú ý, các nhà lãnh đạo đứng đầu OpenAI, DeepMind, Microsoft và xAI dù cạnh tranh trực tiếp cũng lên tiếng ủng hộ quan điểm này, đồng thời nhất trí kiềm chế việc mở rộng những hệ sinh thái AI thế hệ mới trước những nguy cơ được so sánh ngang với vũ khí hạt nhân.

Trái lại, nhiều chuyên gia và lãnh đạo công nghệ bác bỏ các kịch bản tận thế. Trả lời phỏng vấn trên đài CBS News, CEO Nvidia Jensen Huang khẳng định xác suất AI hủy diệt nhân loại vào năm 2030 là 0%. Ông chỉ trích các dự báo thảm họa là vô căn cứ và thiếu trách nhiệm, cho rằng các tuyên bố thổi phồng nỗi sợ hãi nhiều khả năng xuất phát từ toan tính thu hút dư luận hoặc mục tiêu chính trị riêng.