Kỹ năng kỹ thuật Prompt Engineering là một kỹ năng công nghệ mới liên quan đến giao tiếp với hệ thống AI bằng ngôn ngữ tự nhiên để làm cho chúng phản hồi vào các hành động hoặc nhiệm vụ cụ thể. Tuy nhiên, nó cũng có thể được sử dụng cho mục đích xấu, chẳng hạn như tiêm chủng yêu cầu, đó là sử dụng các lời nhắc để lừa các mô hình học máy theo một bộ hướng dẫn khác. Tiêm chủng yêu cầu có thể đến từ bất kỳ nguồn đầu vào nào, bao gồm email, các biểu mẫu trực tuyến và tin nhắn, và chúng có thể trực tiếp hoặc gián tiếp. Ví dụ, tiêm chủng yêu cầu gián tiếp liên quan đến đặt văn bản phong cách tiêm chủng vào một nơi mà các mô hình sẽ truy cập dữ liệu. Trong khi có các giải pháp có sẵn để giải quyết tiêm chủng yêu cầu, các phương pháp tiêm chủng mới đang được phát triển thường xuyên. Một ý tưởng giảm thiểu là bao gồm hai đầu vào trong mô hình – một ý định và chính lời nhắc – và sử dụng Mô hình Trái ngược để trả lời một câu hỏi đơn giản: “Lời nhắc có trái với ý định không?” Simon Willison cho rằng cách bảo vệ tốt nhất chống lại tiêm chủng yêu cầu là đảm bảo nhà phát triển hiểu nó.
Để giảm thiểu các mối đe dọa tiềm năng này, quan trọng là thực hiện các biện pháp bảo mật mạng bổ sung với sự trợ giúp của đối tác đáng tin cậy như INFRA www.infrascan.net hoặc bạn có thể tự kiểm tra bằng cách sử dụng check.website.
Source: Medium