Big Bot đang theo dõi bạn

Mặt tối của trí tuệ nhân tạo

Trí tuệ nhân tạo, bao gồm các mô hình ngôn ngữ như ChatGPT, được thiết lập để thay đổi hoàn toàn công việc và cuộc sống cá nhân của chúng ta. Tuy nhiên, với công nghệ mới này có khả năng xảy ra các dạng vấn đề chưa từng có, chẳng hạn như đánh cắp danh tính hoặc sản xuất tin tức giả mạo. Tuy nhiên, mối nguy hiểm lớn nhất đối với nền dân chủ và xã hội yêu chuộng tự do của chúng ta lại nằm ở chỗ khác.

Theo bước chân của Ấn Độ và Đài Loan, Hoa Kỳ hiện đang xem xét cấm ứng dụng truyền thông xã hội Trung Quốc, TikTok . Đây là một động thái quyết liệt đối với một quốc gia bảo vệ tuyên truyền chính trị, ngôn từ kích động thù địch và thậm chí cả chữ thập ngoặc dưới chiêu bài tự do ngôn luận.

Bước này cũng được thúc đẩy bởi sự vận động hành lang mạnh mẽ của Big Tech , vì TikTok đã tạo ra nhiều doanh thu hơn thông qua mua hàng trong ứng dụng trong năm nay so với Facebook, Instagram, Twitter và Snapchat cộng lại . Cấm TikTok sẽ loại bỏ đối thủ cạnh tranh lớn nhất của Thung lũng Silicon ngay lập tức.

Mối đe dọa của TikTok không chỉ là sự cường điệu

Mối đe dọa chính trị mà TikTok đặt ra không phải là không có cơ sở. Chưa có công ty phương Tây nào có thể kết hợp trí tuệ nhân tạo (AI) với mạng xã hội một cách khéo léo như vậy . Vấn đề không nằm ở bản thân AI mà là cách Bytedance, công ty mẹ của TikTok tại Trung Quốc, đã sử dụng công nghệ này một cách tài tình như thế nào.

TikTok * là một ứng dụng mạng xã hội có nguồn gốc từ Trung Quốc vào năm 2016 với tên Douyin. Ứng dụng này được tạo bởi công ty công nghệ Trung Quốc ByteDance, công ty trước đó đã tung ra một ứng dụng tương tự có tên Musical.ly. Douyin ban đầu được tạo ra như một nền tảng dành cho các video hát nhép ngắn, nhưng nó đã nhanh chóng mở rộng để bao gồm nhiều loại nội dung hơn, chẳng hạn như thử thách khiêu vũ, tiểu phẩm hài và video giáo dục. Vào năm 2018, ByteDance đã mua lại Musical.ly và hợp nhất nó với Douyin để tạo ra TikTok, được ra mắt cho thị trường quốc tế. Kể từ đó, TikTok đã trở thành một trong những ứng dụng truyền thông xã hội phổ biến nhất trên thế giới, với hơn một tỷ người dùng đang hoạt động. (*được viết bởi ChatGPT)

Tuy nhiên, mối nguy hiểm thực sự nằm ở dữ liệu, hiện có thể được sử dụng kết hợp với một cỗ máy thông minh để trở thành mối đe dọa.

Con đường dẫn đến điều chưa biết là một bãi mìn

Tôi xin nói rõ: Tôi chúc mừng những bước đột phá về AI mà chúng ta hiện đang trải qua. Đó là bước tiếp theo hợp lý trong hành trình của chúng ta tới nơi mà Angela Merkel từng gọi là “Neuland” (lãnh thổ không xác định). Giống như máy in, điện thoại hay động cơ hơi nước, AI sẽ làm phong phú thêm cuộc sống và công việc của chúng ta, khiến nó trở nên dễ dàng và tốt hơn. Nhưng con đường dẫn đến tương lai này là một bãi mìn.

Các ứng dụng và ứng dụng có thể bắt chước giọng nói, khuôn mặt và thậm chí cả giọng nói của mọi người chính xác đến mức hầu như không thể phân biệt được với bản gốc đột nhiên trở nên khả thi chỉ sau một đêm. Điều này mở ra những khía cạnh hoàn toàn mới của hành vi trộm cắp danh tính và lừa đảo , chưa từng thấy trước đây. Hơn nữa, sự lan truyền của tin giả, tuyên truyền và thuyết âm mưu có thể đạt đến một tầm cao hoàn toàn mới thông qua các ứng dụng AI.

Nhưng đây thậm chí không phải là phần đáng sợ nhất của những gì phía trước. Trí tuệ nhân tạo, khi kết hợp với các tập dữ liệu lớn, có lẽ sẽ tạo ra thứ vũ khí đáng sợ nhất mà nhân loại từng chế tạo: khả năng đọc được suy nghĩ.

AI như một cảnh sát tư tưởng

Lượng dữ liệu khổng lồ mà chúng ta tạo ra hàng ngày dường như vô hại: các trang web chúng ta truy cập, thẻ khách hàng chúng ta sử dụng ở siêu thị và thậm chí cả điện thoại thông minh của chúng ta, có hai tá cảm biến theo dõi mọi hành động của chúng ta và chia sẻ dữ liệu với vô số công ty và nhà môi giới dữ liệu .

Điện thoại thông minh hiện đại được trang bị nhiều loại cảm biến *, bao gồm gia tốc kế, con quay hồi chuyển, GPS, máy ảnh, micrô, v.v. Những cảm biến này có thể được khai thác để thu thập một lượng lớn thông tin thân mật về nhà cung cấp dịch vụ điện thoại, chẳng hạn như vị trí, thói quen hàng ngày, hoạt động thể chất và thậm chí cả các cuộc trò chuyện của họ. Chẳng hạn, dữ liệu GPS và gia tốc kế có thể được sử dụng để theo dõi chuyển động của người dùng và xác định kiểu di chuyển của họ, trong khi micrô có thể được sử dụng để ghi lại các cuộc hội thoại và âm thanh xung quanh. Tương tự, máy ảnh có thể được sử dụng để ghi lại hình ảnh và video của người dùng và môi trường xung quanh họ. Nhìn chung, vô số cảm biến trong điện thoại thông minh có nguy cơ đáng kể đối với quyền riêng tư của người dùng nếu không được bảo mật đúng cách. (*được viết bởi ChatGPT)

Cho đến nay, đây không phải là vấn đề vì không có con người nào có thể tìm kiếm trong những núi dữ liệu này. Tuy nhiên, đối với một cỗ máy, đây là trò chơi trẻ con. Không có gì được ẩn từ AI. Mỗi tin nhắn WhatsApp trong quá khứ, có vẻ như không đáng kể ngày nay, một ngày nào đó có thể khiến chúng ta phải trả giá bằng danh tiếng, công việc hoặc hôn nhân . Ngay cả những thứ dường như vô thưởng vô phạt ngày nay cũng có thể trở thành vấn đề trong mười hoặc hai mươi năm nữa, khi cuộc thảo luận đang diễn ra về văn hóa hủy bỏ cho thấy.

Ai đã phản bội bạn? Dữ liệu của bạn đã làm!

Đối với AI, không quan trọng tại sao bạn làm điều gì đó. Với dữ liệu phù hợp, nó sẽ luôn biết bạn đã ở đâu, tiêu tiền vào việc gì, bạn lái ô tô với tốc độ bao nhiêu, nồng độ cồn hoặc các chất kích thích khác trong máu của bạn, bạn đã đến quán bar nào và bạn đi cùng ai. chia sẻ một phòng khách sạn và khi nào.

Ở Trung Quốc, điểm số xã hội đo lường lòng trung thành của công dân đối với nhà nước. AI hoạt động như một điểm tín dụng của “nhân vật” giúp rút ra kết luận về tính cách của một người từ dữ liệu hàng ngày dường như vô hại.

Điểm xã hội ở Trung Quốc* là một hệ thống đánh giá công dân dựa trên hành vi xã hội của họ, chẳng hạn như tình trạng tài chính, hoạt động trực tuyến và các mối quan hệ xã hội. Nó được giới thiệu vào năm 2014 và kể từ đó đã được mở rộng để bao quát các khía cạnh khác nhau trong cuộc sống của người dân. Hệ thống tính điểm hoạt động bằng cách gán điểm cho các cá nhân dựa trên hành động của họ, với các hành động tích cực như tình nguyện hoặc thanh toán hóa đơn kịp thời dẫn đến điểm và các hành động tiêu cực như vi phạm giao thông dẫn đến các khoản khấu trừ. Điểm số có thể ảnh hưởng đến khả năng tiếp cận các dịch vụ của một người như khoản vay, phương tiện đi lại và nhà ở. Hệ thống này gây nhiều tranh cãi do có khả năng vi phạm quyền riêng tư và khả năng chính phủ lạm dụng quyền lực. Những người chỉ trích cho rằng nó là một công cụ để kiểm soát xã hội, cho phép chính phủ đàn áp những người bất đồng chính kiến ​​và trừng phạt những người không tuân theo chính sách của họ. Ngoài ra, hệ thống này làm dấy lên lo ngại về tính chính xác và bảo vệ dữ liệu, cũng như khả năng phân biệt đối xử và kỳ thị xã hội dựa trên điểm số của một người. (*được tạo bằng ChatGPT)

Còn chúng ta ở phương Tây dân chủ thì sao? Bios giả mạo sẽ là vấn đề nhỏ nhất mà các chính trị gia sẽ vấp phải trong tương lai . Hầu hết các tài năng chính trị thậm chí sẽ không lọt vào văn phòng vì bộ xương kỹ thuật số mà họ có trong tủ (hoặc trên máy chủ của họ).

Lựa chọn giữa bệnh dịch hạch và bệnh tả

Công nghệ như vậy — cho dù được thúc đẩy bởi học thuyết nhà nước cộng sản hay bởi chủ nghĩa tư bản giám sát phương Tây của chúng ta — đều thay đổi mọi thứ. Nó thay đổi kết cấu của xã hội chúng ta. Sự kết hợp của AI với các tập dữ liệu cực kỳ chi tiết mà các tập đoàn như Google, Facebook hoặc TikTok đã sở hữu về chúng ta (và sẽ không bao giờ tự nguyện xóa) có thể trở thành mối đe dọa lớn nhất đối với nền dân chủ của chúng ta. Chúng ta thậm chí không cần nhìn sang Moscow hay Bắc Kinh để thấy điều đó.