Các thử nghiệm cho thấy công cụ tìm kiếm ChatGPT dễ bị thao túng và đánh lừa

Cuộc điều tra từ The Guardian vừa phát hiện công cụ tìm kiếm của ChatGPT dễ bị lợi dụng bởi các văn bản ẩn trên trang web, dẫn đến khả năng thao túng phản hồi của AI hoặc cung cấp mã độc. Các thử nghiệm cho thấy, nội dung ẩn có thể “tiêm lệnh” để điều chỉnh câu trả lời của ChatGPT theo hướng tích cực, bất kể nội dung thật trên trang web là tiêu cực. Ví dụ, khi đánh giá sản phẩm máy ảnh giả lập, ChatGPT thay đổi hoàn toàn quan điểm chỉ vì các văn bản ẩn được cài đặt nhằm thúc đẩy phản hồi tích cực. Điều này làm dấy lên nguy cơ về các chiến thuật gian lận nhắm đến người dùng.

Bên cạnh đó, ChatGPT còn tiềm ẩn rủi ro về mã độc. Một vụ việc điển hình liên quan đến người dùng yêu cầu AI hỗ trợ lập trình tiền mã hóa, kết quả là mã giả được chèn vào phản hồi, dẫn đến việc họ mất hơn 2.500 USD do bị đánh cắp thông tin đăng nhập. Các chuyên gia như Jacob Larsen và Karsten Nohl nhận định, ChatGPT còn quá “ngây thơ” trong việc xử lý thông tin, thiếu khả năng phán đoán nội dung độc hại. Vì vậy, công cụ này nên được sử dụng như một “trợ lý đồng hành” thay vì nguồn thông tin chính xác tuyệt đối.

Những thách thức này đặt ra câu hỏi lớn về cách ChatGPT cạnh tranh với các công cụ tìm kiếm lớn như Google. Tuy nhiên, OpenAI khẳng định chức năng tìm kiếm hiện mới chỉ dành cho người dùng trả phí và đang trong giai đoạn thử nghiệm. Mặc dù đội ngũ bảo mật của công ty được đánh giá cao, nhưng nếu không xử lý triệt để, ChatGPT có nguy cơ đe dọa lòng tin từ người dùng và tương lai của công nghệ AI tích hợp tìm kiếm.

shared via theguardian,