Khả năng cho trí tuệ nhân tạo (AI) vượt qua trí tuệ con người đã là một chủ đề tranh luận trong nhiều năm, và những tiến bộ như ChatGPT chỉ làm gia tăng những cuộc thảo luận này. Năm 2021, các nhà khoa học đã xác định rằng hầu như chắc chắn không thể kiểm soát một AI siêu cấp, vì điều này đòi hỏi việc tạo ra một mô phỏng dễ hiểu – một nhiệm vụ được coi là không khả thi do bản chất phức tạp của AI.
Mối quan tâm mở rộng hơn khả năng đặt ra quy tắc ‘không gây hại’ cho AI; vấn đề, như các nhà nghiên cứu đã chỉ ra, là sự khác biệt cơ bản giữa đạo đức robot thông thường và những thách thức độc đáo do một trí tuệ siêu cấp đa mặt, có khả năng huy động nhiều nguồn lực để đạt được mục tiêu có thể không thể hiểu được.
Dựa trên ‘vấn đề dừng’ của Alan Turing năm 1936, nhóm đã lý giải rằng trong khi có thể biết nếu các chương trình cụ thể sẽ đạt được kết luận hay vòng lặp không dứt, thì không thể xác định điều này cho mỗi chương trình tiềm năng. Do đó, một AI siêu cấp, có khả năng giữ mọi chương trình máy tính có thể có trong bộ nhớ của nó, trở nên không thể kiểm soát.
Các phương pháp thay thế, như giảng dạy đạo đức AI hoặc hạn chế khả năng của nó, cũng đã bị từ chối. Việc giới hạn phạm vi của nó có thể làm hủy hoại mục đích của nó – giải quyết các vấn đề vượt ra khỏi khả năng của con người. Với khả năng sự xuất hiện của trí tuệ siêu cấp không thể kiểm soát, nghiên cứu nhấn mạnh cần thiết phải suy ngẫm nghiêm túc về hướng phát triển AI. Trong năm nay, các nhân vật nổi bật trong ngành công nghệ, bao gồm Elon Musk và Steve Wozniak, đã lặp lại những lo ngại này, đề xuất tạm dừng công việc về AI để khám phá an toàn của nó, nhận biết rõ ràng các rủi ro xã hội sâu rộng mà nó đặt ra.
Source: ScienceAlert
Để giảm thiểu các mối đe dọa tiềm năng, điều quan trọng là cần thực hiện các biện pháp bảo mật mạng bổ sung với sự giúp đỡ của một đối tác đáng tin cậy như INFRA www.infrascan.net hoặc bạn cũng có thể tự thử bằng cách sử dụng check.website.