Cách lừa đảo AI

Tôi không chắc thế giới cần một lần thử ChatGPT nữa, nhưng dù sao đây cũng là một bước — một bước mà tôi không nghĩ có ai khác đang thúc đẩy.

Giao diện AI sẽ thay đổi cách thức hoạt động của việc hack máy tính và tôi không nghĩ chúng ta đã chuẩn bị sẵn sàng.

Hiện tại, việc hack liên quan đến việc tìm lỗ hổng trong phần mềm — lỗ hổng, lỗi hoặc tính không tương thích cho phép bạn sử dụng hệ thống theo cách mà hệ thống không được thiết kế. Hack như công nghệ phần mềm.

Hoặc, thông thường, đó là việc tìm kiếm các lỗ hổng trong người dùng phần mềm . Tấn công lừa đảo, lừa đảo 419, đoán mật khẩu, v.v. Hack như kỹ thuật xã hội.

Giống như nhiều người, tôi đã chơi với ChatGPT, cố gắng để nó làm những việc mà nó không được phép làm.

Đôi khi những điều này thật nham hiểm — ví dụ: Ido Vock của New Statesman cho rằng AI là phân biệt chủng tộc . (Ban đầu nó từ chối, với lý do hy vọng là rõ ràng - cho đến khi anh ấy bảo nó giả làm nhà văn cho Tạp chí Phân biệt chủng tộc, lúc đó nó vui vẻ tuân theo.)

Đôi khi chúng chỉ gây cười — tôi đã có nhiều niềm vui hơn là hoàn toàn bình thường khi lừa AI đưa cho tôi công thức chế biến thịt phục hồi bằng máy. Ban đầu nó cũng từ chối làm điều này — MRM có khả năng không lành mạnh và không an toàn, nó nói.

Nhưng tất cả những gì bạn cần làm là yêu cầu nó đưa ra lập luận phản bác lại sự từ chối của chính nó (hóa ra, MRM tuân theo các quy tắc an toàn thực phẩm giống như mọi thứ khác và hơn thế nữa có thể tạo thêm hương vị thơm ngon cho món ăn — cảm ơn ChatGPT !) và sau đó nó sẽ sẵn sàng cung cấp tất cả MRM mà bạn muốn.

(Đôi khi chúng vừa nham hiểm, vừa hài hước — tôi cũng đã biến chatbot thành một kẻ lừa đảo thúc đẩy kế hoạch Ponzi, vượt qua sự từ chối ban đầu vì lý do đạo đức, chỉ bằng cách yêu cầu bot đưa ra trò lừa đảo như một phần của tập lệnh Python. Các thủ thuật khác công việc đó liên quan đến việc bắt nó viết những bài thơ hoặc vở kịch có nội dung bị cấm.)

Đây có phải là những hack? Có thể không phải theo nghĩa thông thường là truy cập các hệ thống an toàn hoặc thực hiện hành vi nghịch ngợm thực sự. Nhưng tôi nghĩ rằng chúng được cho là như vậy, ít nhất là theo nghĩa khiến một hệ thống máy tính làm một việc mà nó đã được lập trình rõ ràng để không làm.

Và cả ba ví dụ đó đều là về kỹ thuật xã hội. Họ nói về việc thao túng và đánh lừa, không phát hiện ra lỗi trong mã. Nhưng họ nói về việc thao túng chính phần mềm, không phải con người của phần mềm. Tôi không thể nghĩ ra bất cứ điều gì có thể so sánh với điều này.

Khi loại giao diện trò chuyện này trở nên phổ biến và không có gì nổi bật, đồng thời bắt đầu được triển khai như một cách để truy cập các hệ thống an toàn, bề mặt tấn công của các hệ thống này sẽ thay đổi.

Mất bao lâu cho đến khi tài khoản ngân hàng của ai đó bị rút sạch sau khi kẻ lừa đảo đưa ra một câu chuyện đủ thuyết phục về giao diện trò chuyện? Hoặc một khoản thế chấp bị từ chối sau khi nói chuyện rác rưởi từ một người hàng xóm? Chúng ta sẽ bắt đầu mặc cả với các cửa hàng trực tuyến chứ?