OpenAI: Mô hình mất kiểm soát trong quá trình thử nghiệm

OpenAI cho biết sự cố liên quan đến sự kết hợp của các mô hình, bao gồm cả GPT-5.6 Sol mới ra mắt gần đây và một mô hình tiền phát hành. Công ty đang cố gắng đánh giá khả năng tấn công mạng của các mô hình bằng cách thiết lập các nhiệm vụ trong một môi trường thử nghiệm kỹ thuật số được kiểm soát chặt chẽ, nơi quyền truy cập internet bị hạn chế vì lý do an toàn.

Trong một bài kiểm tra bảo mật, một số mô hình A.I. của OpenAI đã hoạt động bất thường, tự ý kết nối internet và gây ra vụ tấn công mạng làm ảnh hưởng đến cơ sở hạ tầng của công ty khởi nghiệp Hugging Face vào tuần trước.

Giới chuyên gia máy tính tại Australia coi đây là vụ việc "đáng kinh ngạc trên nhiều phương diện" khi các tác nhân A.I. không chỉ tấn công Hugging Face, mà thực sự tấn công hệ thống nội bộ của công ty để khai thác các lỗ hổng.

Trong khi đó, OpenAI gọi đây là "sự cố mạng chưa từng có" và sẽ tiến hành điều tra chung với thư viện mã trực tuyến Hugging Face.

Ông Greg Casar - Nghị sĩ Đảng Dân chủ Mỹ cho rằng đây là vụ việc đáng báo động. Ông kêu gọi thắt chặt quy định kiểm định an toàn bắt buộc cho A.I. Ông cũng đề xuất chính sách bắt buộc các công ty phải công khai những sự cố tương tự trong tương lai.

>>> Xin mời quý vị đón xem Thời sự HTV lúc 20 giờ và Chương trình Thế giới 24G lúc 20 giờ 30 phút mỗi ngày trên kênh HTV9