Theo Giám đốc Viện Nghiên cứu an toàn AI Kim Myung-joo, viện sẽ là nơi chuyên trách nghiên cứu về an toàn AI, được thành lập nhằm đối phó một cách có hệ thống và chuyên môn với những rủi ro có thể xảy ra do hạn chế về mặt công nghệ của AI, việc con người sử dụng sai mục đích, mất năng lực kiểm soát AI. Đồng thời, cơ quan này sẽ đóng vai trò là trung tâm giao lưu, hợp tác nghiên cứu ở lĩnh vực an toàn AI giữa giới học giả và doanh nghiệp, cũng như là một thành viên của Mạng lưới Viện Nghiên cứu an toàn AI quốc tế hiện có 10 nước tham gia.
Không chỉ là cơ quan về quy chế, viện nghiên cứu sẽ đóng vai trò là cơ quan hợp tác, hỗ trợ để giảm thiểu các yếu tố rủi ro có thể gây trở ngại tới việc đảm bảo năng lực cạnh tranh toàn cầu cho doanh nghiệp AI trong nước. Liên minh An toàn AI Hàn Quốc, gồm các viện nghiên cứu trí tuệ nhân tạo của các doanh nghiệp gồm Naver, Kakao, SK Telecom, KT và LG, đã cam kết hợp tác trong việc nghiên cứu, đánh giá và phát triển các chính sách về an toàn AI.
Giới quan sát nhận định, việc Hàn Quốc lập Viện Nghiên cứu an toàn AI là để kịp thời ứng phó, quản lý những rủi ro, thách thức trong bối cảnh AI tạo sinh bùng nổ hiện nay. Mới nhất, chủ nhân giải Nobel Vật lý Geoffrey Hinton và Nobel Hóa học Demis Hassabis đã kêu gọi quản lý chặt chẽ AI.
Ông Hassabis khẳng định: “AI là một công nghệ rất quan trọng cần được quản lý, nhưng điều cũng quan trọng không kém là phải có các quy định đúng”. Theo ông Hassabis, khó khăn hiện nay là AI đang phát triển quá nhanh. Con người cần trả lời các câu hỏi như sử dụng AI để làm gì, triển khai như thế nào. Ông Hassabis cũng nói rõ cần đảm bảo rằng toàn thể nhân loại sẽ được hưởng lợi từ những gì do AI có thể tạo ra.
Ông Hassabis là đồng tác giả giải Nobel Hóa học cùng với 2 nhà hóa học người Mỹ David Baker và John Jumper nhờ công trình vén màn bí mật của protein thông qua AI.
Ông Hassabis cho biết, đã khuyến nghị các chính phủ xây dựng quy định cho các lĩnh vực như chăm sóc sức khỏe và giao thông, đồng thời theo sát sự phát triển của công nghệ để có các biện pháp thích ứng kịp thời trước những thách thức có thể xảy ra. Ngoài ra, ông Hassabis cũng đã thảo luận với tỷ phú Elon Musk về "các mối đe dọa hiện hữu" do sử dụng AI không phù hợp. Bản thân tỷ phú Elon Musk cũng lo ngại nguy cơ AI sẽ giành quyền kiểm soát của con người.
Trong khi đó, ông Geoffrey Hinton - nổi tiếng nhờ công trình nghiên cứu về mạng lưới thần kinh nhân tạo, được mệnh danh là “cha đẻ AI” - cũng thừa nhận về những nguy cơ có thể xảy ra từ AI.
Ông Hinton nói: "Tôi ước mình đã nghĩ đến vấn đề an toàn sớm hơn", đồng thời lo ngại khả năng AI sẽ đẩy nhanh cuộc chạy đua vũ trang. Ông Hinton đã trở thành tâm điểm chú ý khi ông rời Google năm 2023 và cảnh báo về mối nguy hiểm khi máy móc có thể vượt mặt con người vào một ngày nào đó.
