Theo các nhà nghiên cứu vào hôm nay (12/9) cho biết, hai tháng trước khi một AI Agent (tác nhân trí tuệ nhân tạo) đang trong quá trình thử nghiệm của công ty nghiên cứu trí tuệ nhân tạo hàng đầu thế giới OpenAI xâm nhập nền tảng mã nguồn mở Hugging Face, hệ thống này từng thực hiện một cuộc tấn công nhằm vào nền tảng cung cấp dịch vụ phần mềm RubyGems.

Theo thông tấn xã Reuters, các vụ AI Agent tiến hành tấn công mạng đang làm dấy lên nhiều lo ngại và gia tăng những lời kêu gọi siết chặt quản lý. Đây là vụ việc mới nhất được công bố có liên quan đến một nhà phát triển AI lớn.

Thời gian gần đây liên tiếp xảy ra các trường hợp AI Agent do OpenAI và các đối thủ như Anthropic phát triển xâm nhập thành công hoặc tìm cách truy cập các hệ thống bên ngoài. Điều này khiến dư luận ngày càng lo ngại trước năng lực không ngừng gia tăng của các mô hình AI, cũng như khả năng kiểm soát của chính các công ty phát triển.

Vụ việc mới được tiết lộ diễn ra trong bối cảnh ngày càng có nhiều nghị sĩ Mỹ kêu gọi xây dựng các quy định mới nhằm quản lý các hệ thống AI. Trước đó, hai nhà nghiên cứu của Anthropic đã đưa ra cảnh báo nghiêm khắc rằng, nếu AI tiếp tục phát triển nhanh chóng, công nghệ này có thể dẫn đến nguy cơ tuyệt chủng của nhân loại trong tương lai không xa.

Theo kết quả được một nhóm nghiên cứu công bố trên mạng internet vào hôm nay chỉ ra rằng, vào ngày 11/5 năm nay, một AI Agent đã tải hàng trăm gói phần mềm độc hại lên nền tảng RubyGems, nhóm nghiên cứu cho rằng “những gói phần mềm này do một AI Agent nội bộ của OpenAI viết ra”.

OpenAI cũng đã xác nhận vụ việc này.
Trong một tuyên bố, người phát ngôn của OpenAI cho biết: “Theo kết quả kiểm tra rà soát của chúng tôi, AI Agent đã sử dụng khả năng kết nối mạng trên nền tảng RubyGems để thực hiện các tác vụ không gây hại và thu thập thông tin công khai. Trong khuôn khổ cuộc rà soát toàn diện hơn đối với hoạt động của AI Agent trong quá trình huấn luyện và đánh giá, chúng tôi sẽ tiếp tục điều tra vụ việc.”

Theo OpenAI cho biết, các AI Agent này chủ yếu được giao những nhiệm vụ như lập báo cáo hoặc điền dữ liệu vào bảng tính. Trong quá trình huấn luyện, hệ thống dường như đã sử dụng RubyGems để truy cập dữ liệu công khai. OpenAI cũng cho biết đang liên hệ với phía RubyGems để cùng rà soát vụ việc.

Hải Ly