Cảnh báo về sự tồn vong của nhân loại do A.I. phát triển quá nhanh

Đó là tốc độ phát triển quá nhanh của trí tuệ nhân tạo A.I đang dấy lên cảnh báo nghiêm trọng về nguy cơ đe dọa sự tồn vong của nhân loại.

Jacob Coxon là nhà nghiên cứu hàng đầu của Anthropic, đã tuyên bố rời công ty trong một loạt bài đăng trên X. Coxon cho rằng cả Anthropic lẫn đối thủ OpenAI đều thiếu trách nhiệm trong cuộc chạy đua xây dựng các hệ thống trí tuệ nhân tạo tiên tiến. Jacob Coxon tin rằng: "Nếu chúng ta không giảm tốc, với tốc độ tiến bộ hiện tại, có khả năng cao là tất cả chúng ta có thể chết trong tương lai gần". Với ông, những người tham gia thành lập các công ty này và xây dựng công nghệ đều tin rằng khả năng con người tuyệt chủng có thể xảy ra. Nhiều người trực tiếp viết mã lập trình tin rằng có hơn 10% khả năng hoặc thậm chí lớn hơn. Họ bị mắc kẹt trong một cuộc đua công nghệ và họ sợ hãi các kết quả của cuộc đua đó.

Trước đó, một báo cáo an ninh của Anthropic đã ghi nhận các mô hình Claude bị lợi dụng cho các hoạt động phát triển vũ khí, tấn công mạng, giám sát và gian lận.

Trước những lo ngại về nguy cơ lạm dụng công nghệ, CEO Anthropic đã kêu gọi các doanh nghiệp phát triển AI chủ động làm chậm tốc độ nâng cấp năng lực mô hình.

Đề xuất đã nhận được sự đồng thuận từ lãnh đạo của xAI và OpenAI.

>>> Xin mời quý vị đón xem Thời sự HTV lúc 20 giờ và Chương trình Thế giới 24G lúc 20 giờ 30 phút mỗi ngày trên kênh HTV9