Ngày 22/7 vừa qua, tại một sự kiện của Cục Dự trữ Liên bang Mỹ (FED) tập trung vào thảo luận về tác động kinh tế và xã hội của trí tuệ nhân tạo (AI), Sam Altman, CEO của OpenAI – công ty tiên phong trong phát triển ChatGPT, đã đưa ra lời cảnh báo về những rủi ro tiềm ẩn từ sự phát triển nhanh chóng của AI. Ông Altman bày tỏ sự quan ngại sâu sắc về khả năng AI có thể giả mạo giọng nói và hình ảnh một cách thuyết phục, đến mức có thể vượt qua nhiều hình thức xác thực hiện tại.
Ông Altman chỉ ra rằng vẫn còn các tổ chức tài chính chấp nhận sử dụng giọng nói như một phương thức xác minh để chuyển tiền hoặc thực hiện các hành động quan trọng, điều mà ông cho là “thực sự nguy hiểm”. Theo ông, AI hiện đã có khả năng đánh bại gần như toàn bộ các phương thức xác thực hiện có, ngoại trừ mật khẩu. Điều này cho thấy một lỗ hổng bảo mật lớn trong bối cảnh công nghệ ngày càng phát triển.
Không chỉ dừng lại ở đó, ông Altman còn bày tỏ lo ngại về viễn cảnh siêu AI bị các thế lực thù địch lạm dụng khi phần còn lại của thế giới chưa đủ khả năng phòng thủ. Ông lo lắng về việc một kẻ xấu có thể tạo ra siêu AI trước phần còn lại của thế giới và sử dụng nó để tấn công vào các hệ thống quan trọng như lưới điện hoặc chế tạo vũ khí sinh học. Điều này đặt ra một thách thức lớn về việc kiểm soát và quản lý sự phát triển của AI.
Ông Altman cũng nhấn mạnh rằng thế giới chưa sẵn sàng để đối mặt với những công nghệ mới như video và cuộc gọi AI giả mạo, vốn có thể không thể phân biệt được với người thật. Điều này có thể dẫn đến một cuộc khủng hoảng về sự thật và lòng tin trên toàn cầu. Để giải quyết vấn đề này, ông Altman ủng hộ sáng kiến The Orb – một thiết bị giúp xác minh người dùng là con người thật trong môi trường kỹ thuật số. Ông kỳ vọng dự án này sẽ trở thành một nền tảng “chứng thực nhân dạng” trong thế giới mà AI có thể dễ dàng giả mạo mọi thứ.
Trước đó, đã có nhiều sự cố liên quan đến deepfake gây chấn động dư luận. Gần đây, các chuyên gia tại Việt Nam cũng lên tiếng trước một số trào lưu sử dụng deepfake để tạo nội dung câu like, câu view. Luật sư Đăng Ngọc Duệ, Giám đốc Công ty Luật TNHH Phụng Sự Công Lý, cho biết tùy thuộc vào nội dung hình ảnh, video được dàn dựng, mục đích của người sản xuất/phát tán sẽ có các lỗi và quy định xử lý riêng. Điều này cho thấy sự cần thiết của việc quản lý và kiểm soát nội dung trên internet.
Trong bối cảnh AI đang phát triển không ngừng, các chuyên gia và lãnh đạo như Sam Altman đang kêu gọi sự chú ý vào việc cần thiết phải có các giải pháp kiểm soát và quản lý AI một cách hiệu quả. Việc OpenAI không phát triển các công cụ tạo video hay giọng nói giả mạo, nhưng thừa nhận các công nghệ đó đang tiến bộ rất nhanh, kể cả bên ngoài nước Mỹ, cho thấy sự cần thiết của một cuộc thảo luận toàn cầu về đạo đức và quản lý AI.
Theo Sam Altman, “siêu AI” có thể dẫn tới những khả năng và rủi ro chưa từng có, ông cũng kêu gọi các nhà lãnh đạo tìm cách kiểm soát AI.
