OpenAI thành lập nhóm kiểm soát AI siêu thông minh

OpenAI đang thành lập một nhóm chuyên trách để kiểm soát và quản lý rủi ro từ trí tuệ nhân tạo siêu thông minh.

07/07/2023 07:37

OpenAI vừa thông báo kế hoạch đầu tư nguồn lực và thành lập một nhóm nghiên cứu mới nhằm tìm cách đảm bảo công nghệ trí tuệ nhân tạo (AI) và các siêu trí tuệ trong tương lại hoạt động an toàn.

Những nguy hiểm tiềm tàng của AI vẫn luôn là mối quan tâm hàng đầu của các nhà nghiên cứu công nghệ và cả công chúng. Vào tháng 4, một nhóm các nhà điều hành các công ty công nghệ hàng đầu đã đặt bút ký vào một bức thư ngỏ nhằm kêu gọi đặt ra những quy định về quản lý AI và nâng cao nhận thức về 'nguy cơ tuyệt chủng' từ công nghệ này.

Ngoài ra, một cuộc khảo sát hồi tháng 5 của Reuters cho thấy hơn 2/3 người Mỹ lo ngại về những tác động tiêu cực của AI, trong đó 61% những người được hỏi tin rằng AI có thể đe dọa nền văn minh nhân loại.

OpenAI tin rằng một siêu trí tuệ nhân tạo có thể xuất hiện trước cuối thập kỷ này. Siêu trí tuệ là một mô hình AI thông minh hơn cả con người, đồng thời vượt trội ở nhiều lĩnh vực chuyên môn thay vì chỉ tập trung vào một lĩnh vực như một số AI hiện nay.

OpenAI công ty đứng sau ChatGPT tin rằng siêu trí tuệ nhân tạo có thể xuất hiện trước cuối thập kỷ này.

Nhóm kiểm soát của OpenAI sẽ được đồng lãnh đạo bởi giám đốc nghiên cứu, đồng sáng lập OpenAI - Ilya Sutskever và trưởng nhóm giám sát của OpenAI - Jan Leike. Nhóm kiểm soát mới mang tên Superalignment

Theo nhận định của nhóm giám sát, sức mạnh của siêu trí tuệ có thể dẫn đến sự suy giảm quyền lực hoặc thậm chí là sự tuyệt chủng của loài người. Hiện nay, chưa có giải pháp nào được các công ty hay quốc gia đưa ra để điều khiển và kiểm soát AI và AI siêu thông minh, do đó, đây là bước đi tiên phong và cần thiết để bảo đảm AI mang lại lợi ích cho con người.

Hiện tại, giải pháp kiểm soát, điều khiển và ngăn chặn một AI siêu thông minh tiềm năng của OpenAI là tạo ra một AI có thể 'nghiên cứu và căn chỉnh trí tuệ nhân tạo' ở mức độ con người.

Cụ thể, Open AI sẽ xây dựng một AI dựa trên các phản hồi, nhận xét và căn chỉnh từ con người về các trí tuệ nhân tạo. Trí tuệ nhân tạo này sau khi được hoàn thành sẽ thay thế con người giám sát các AI khác không 'nổi loạn'.

Các biện pháp khác cũng sẽ được áp dụng là phân cấp AI, tăng cường các tham số của trí tuệ nhân tạo từ phản hồi của con người và giám sát các AI bằng nhân lực. Tuy nhiên, theo quan điểm của nhóm giám sát OpenAI con người sẽ không thể giám sát các hệ thống AI thông minh hơn cả họ.

Trong 4 năm tới, OpenAI sẽ dành 20% sức mạnh tính toán hiện tại của công ty để giải quyết vấn đề này. Mục tiêu là tạo ra một AI có thể giám sát và căn chỉnh các theo cấp độ con người, sau đó sẽ mở rộng mở rộng khả năng của AI này để giám sát các siêu trí tuệ nhân tạo thông qua một lượng lớn sức mạnh tính toán.

TIN LIÊN QUAN