Theo Bộ trưởng Truyền thông Australia Michelle Rowland, những đề xuất thay đổi được đưa ra sau khi có nhiều ý kiến cho rằng chính phủ nước này chưa làm đủ để đảm bảo an toàn cho trẻ em khi tham gia các hoạt động trực tuyến.
Bà Rowland cho biết, các thay đổi được đề xuất cho phép mở rộng phạm vi quản lý bao trùm cả các thuật toán, trí tuệ nhân tạo (AI) tổng hợp và đảm bảo rằng lợi ích tốt nhất cho trẻ em là ưu tiên hàng đầu khi thiết kế bất kỳ dịch vụ nào.
“Chúng tôi biết trẻ em dễ bị ảnh hưởng bởi các nội dung xấu độc trên internet và điều quan trọng là lợi ích tốt nhất của các em phải được ưu tiên trong suốt vòng đời thiết kế và triển khai dịch vụ,” bà Rowland nêu lý do tại sao trẻ em nên được ưu tiên thiết kế nội dung mà chúng có thể tiếp cận. Quá trình tham vấn về đề xuất một số sửa đổi đối với các nhà cung cấp dịch vụ trực tuyến, gồm cả dịch vụ truyền thông xã hội, sẽ kết thúc vào tháng 2-2024. Trước đó, tháng 8 vừa qua, Cơ quan Giám sát an toàn trực tuyến eSafety của Australia đã kêu gọi giám sát theo quy định đối với ngành công nghệ truyền thông.
Theo eSafety, cơ quan này đã nhận được khiếu nại về việc trẻ em sử dụng máy tính để tạo ra hình ảnh khiêu dâm của bạn bè cùng trang lứa nhằm mục đích bắt nạt. eSafety nêu rõ, các nhà cung cấp dịch vụ phải thực hiện “các bước hợp lý” để chủ động giảm thiểu mức độ mà khả năng AI tạo ra vật liệu hoặc điều kiện cho hoạt động bất hợp pháp hoặc có hại, trong đó có phim ảnh làm giả nhờ AI.
eSafety đã từng cảnh báo, cần có quy trình xác minh độ tuổi chặt chẽ hơn trên các trang web được trẻ em sử dụng để ngăn chặn việc chúng bị ép buộc tự tạo tài liệu hoặc nội dụng lạm dụng tình dục. Phân tích từ hơn 1.300 báo cáo về lạm dụng tình dục trẻ em mà eSafety có được, cứ 8 trẻ thì có 1 trẻ “tự tạo” ra nội dung đó bởi chính những “kẻ săn mồi” đã ép trẻ tự quay phim và chụp hình các hành vi khiêu dâm. Trên thực tế, trẻ em có thể dễ dàng bỏ qua việc xác minh độ tuổi khi tham gia các trang web trực tuyến.
Ngày 26-11, Mỹ, Anh và hơn 10 quốc gia khác đã công bố thỏa thuận quốc tế an toàn AI. Theo mô tả của giới chức Mỹ, đây là thỏa thuận chi tiết đầu tiên về cách thức bảo đảm công nghệ AI được sử dụng một cách an toàn, đồng thời hối thúc các công ty công nghệ phải tạo ra các hệ thống AI an toàn ngay trong bước thiết kế. Theo nội dung văn kiện, 18 quốc gia đã đồng ý rằng các công ty thiết kế và sử dụng AI cần phát triển và triển khai công nghệ tiên tiến này. Thỏa thuận không mang tính ràng buộc, chủ yếu đưa ra các khuyến nghị chung, như giám sát hành vi lạm dụng AI, bảo vệ dữ liệu...
