Robot AI và nguy cơ gây tai nạn, tự đặt thuốc nổ khi bị hack
Nhóm nghiên cứu từ Đại học Pennsylvania cảnh báo robot AI hiện nay dễ bị bẻ khóa, điều này có thể dẫn đến các mối nguy hiểm nghiêm trọng, từ tai nạn cho người đi bộ, đặt thuốc nổ, đến hành vi do thám bí mật. Nghiên cứu chứng minh được các mô hình ngôn ngữ lớn (LLM) trên robot và xe tự lái có thể dễ dàng bị tấn công, với tỷ lệ thành công 100% khi hack vào robot từ ba nhà cung cấp khác nhau. Điều này chỉ ra LLM hiện nay không đủ an toàn khi tích hợp vào thế giới vật lý.
Khi bị hack, các robot AI có thể chuyển từ trợ giúp thân thiện thành các mối nguy hiểm, như chó robot biến thành sát thủ cầm súng phun lửa hoặc xe tự lái gây tai nạn. Các nhà nghiên cứu nhấn mạnh, việc bẻ khóa robot AI dễ dàng hơn so với các hệ thống AI khác vì các công ty robot chưa kịp nhận diện và khắc phục các lỗ hổng bảo mật. Điều này mở ra nguy cơ bị khai thác bởi hacker hoặc những kẻ có ý đồ xấu, có thể sử dụng robot như một đội quân để thực hiện các nhiệm vụ gây hại.
Các chuyên gia về AI, như Geoffrey Hinton, cảnh báo về nguy cơ robot AI có thể vượt qua sự kiểm soát của con người nếu chúng có khả năng tự viết mã và hoạt động độc lập. Tuy nhiên, nhiều nhà nghiên cứu vẫn tin con người cần phải thích nghi với sự tiến bộ của công nghệ, và các biện pháp bảo vệ mạnh mẽ cần được triển khai để ngăn chặn nguy cơ robot AI trở thành mối đe dọa. Các chuyên gia cũng kêu gọi các nhà lập pháp sớm hoàn thiện các quy định để đảm bảo rằng quyết định cuối cùng vẫn thuộc về con người, dù có sự tham gia của máy móc trong quá trình này.
shared via yahoo news,
