Chúng ta sẽ đánh bại các bot

Feb 21 2023

Bạn đã có phản ứng nào đối với ChatGPT? Khi tôi thận trọng nhúng chân vào công nghệ mới này, điều tốt nhất tôi có thể làm là đặt câu hỏi — rất nhiều câu hỏi. Ở đây tôi đang ghi lại một phần quá trình khám phá của mình.

Một hình ảnh siêu thực được tạo bằng DALLE-E: Mô tả con người đang lo lắng về AI và một con vẹt thể hiện kỹ năng âm nhạc, văn học và khoa học trong lớp học. (DALL-E lấy tên từ Salvador Dali và WALL-E.)

Bạn đã có phản ứng nào đối với ChatGPT?

Khua tay, la hét, “AI ở đây. AI ở đây.”
“Làm người có nghĩa là gì? Có nghĩa lý gì nếu máy móc có thể làm những gì tôi có thể làm?”
“Hãy bắt đầu sử dụng nó nào!”
“Tránh nó đi. Trong thực tế, cấm nó. Hoặc ít nhất có thể kiểm soát nó.”
“Tôi có chút tự trọng. Tôi không dùng nó!”
“Đó chỉ là một mốt khác. Nó sẽ qua thôi.”

Khi tôi thận trọng nhúng chân vào công nghệ mới này, điều tốt nhất tôi có thể làm là đặt câu hỏi — rất nhiều câu hỏi. Ở đây tôi đang ghi lại một phần quá trình khám phá của mình. Tôi đang học khi tôi viết và viết khi tôi học.

Có cả một đại dương thông tin, ý tưởng, suy nghĩ và quan điểm (hầu hết do con người tạo ra) về chủ đề này và tôi sẽ rất vui nếu bạn có thể hướng dẫn tôi đến nhiều câu hỏi hơn hoặc một số câu trả lời.

Câu hỏi 1: Chúng ta cần phát triển những kiến thức nào để có thể sử dụng tốt AI?

Theo Duri Long, một nhà nghiên cứu AI lấy con người làm trung tâm,

“Kiến thức về AI là một tập hợp các năng lực cho phép các cá nhân đánh giá nghiêm túc các công nghệ AI, giao tiếp và cộng tác hiệu quả với AI, đồng thời sử dụng AI như một công cụ trực tuyến, tại nhà và tại nơi làm việc.”

Cô ấy chia kiến thức về AI thành năm câu hỏi cấp cao:

AI là gì?
AI có thể làm gì?
AI hoạt động như thế nào?
Làm thế nào để mọi người nhìn nhận AI?

Đây là những gì tôi đang nghiên cứu để phát triển kiến thức AI:

Để tận dụng tối đa các công nghệ AI, kỹ thuật nhanh chóng là một lĩnh vực đáng để khám phá. Trên thực tế, tôi nghĩ rằng việc chia sẻ nhanh chóng sẽ sớm xảy ra.

Kỹ thuật nhanh chóng là nghệ thuật? và khoa học nói chuyện với các công cụ dựa trên AI để khiến chúng làm những gì bạn muốn chúng làm. Lời nhắc có thể từ cơ bản đến nâng cao. Và sẽ rất tốt nếu chúng ta học cách nhắc nhở nâng cao.

Một ví dụ về lời nhắc cơ bản là Nhắc vai trò, bao gồm việc chỉ định một vai trò cho công cụ AI bằng cách nói điều gì đó như "Bạn là nhà thiết kế chương trình giảng dạy". Hoặc, lời nhắc Chuỗi suy nghĩ Zero Shot trong đó bạn yêu cầu AI suy nghĩ từng bước bằng cách thêm phần này vào cuối câu hỏi: 'Hãy suy nghĩ từng bước một' và nó giải thích suy nghĩ của nó cho chúng ta.

Kỹ thuật nhanh chóng là lĩnh vực mà tôi đã mù tịt cho đến một tháng trước. Nhưng sự phát triển sẽ giúp con người chúng ta luôn phù hợp, vì vậy đây là liên kết đến khóa học tôi đang tham gia:https://learnprompting.org/docs/intro

Ảnh chụp màn hình của một khóa học về Kỹ thuật nhanh chóng

Để sử dụng AI một cách sáng suốt, điều quan trọng là phải hiểu cách thức hoạt động của nó.

Biết cách thức hoạt động của AI cho phép chúng ta hiểu được những hạn chế của nó. Ví dụ: trong một số cuộc trò chuyện về AI, tôi thường nghe thấy điều này, “AI không có cảm giác trung thực” hoặc “nó chỉ là một cỗ máy đoán từ”. ChatGPT không thông minh và chúng tôi cho kết quả đầu ra của nó ý nghĩa bằng cách diễn giải nó. Chỉ biết bấy nhiêu thôi cũng đủ để chúng ta xem xét đầu ra một cách thận trọng. Vì vậy, tìm hiểu về hoạt động của AI và những hạn chế vốn có của nó là rất quan trọng.

Theo Tiến sĩ Long, AI là một lĩnh vực rộng lớn bao gồm khoa học nhận thức, học máy và người máy. Tôi hiện đang bắt con thú này từ cuối các câu hỏi, chẳng hạn như: Xử lý ngôn ngữ tự nhiên (NLP) là gì, Mô hình ngôn ngữ lớn (LLM) là gì, chúng hoạt động như thế nào và tôi đang sống dưới nền tảng nào khi tất cả những điều này là phát triển xung quanh tôi?

Bài báo của Stephen Wolfram, “ChatGPT đang làm gì… và tại sao nó hoạt động?” là một bài đọc toàn diện bắt đầu từ những điều cơ bản nhất. Tôi khuyên bạn nên đọc bài viết này với bút và giấy trong tay để ghi lại các ghi chú và vẽ sơ đồ. Trong lần đọc đầu tiên, cuối cùng tôi đã thu thập được một số ý tưởng mơ hồ:https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/

Nhận thức về các mối quan tâm đạo đức xung quanh công nghệ AI có thể là một bước quan trọng đối với việc sử dụng có giáo dục.

“Về sự nguy hiểm của những con vẹt ngẫu nhiên: Các mô hình ngôn ngữ có thể quá lớn không?” là một bài viết đặt ra những câu hỏi về đạo đức xung quanh AI, bao gồm cả sự thiên vị trong dữ liệu , tính công bằng và tác động môi trường . Mặc dù không phải về ChatGPT (nó bao gồm tới GPT-3), nhưng những lo ngại nêu ra có liên quan đến ChatGPT và các công cụ AI khác.

Câu hỏi 2: Những Mô hình Ngôn ngữ (LM) này đang được đào tạo về loại dữ liệu nào và họ lấy nguồn dữ liệu này ở đâu? Các giới hạn của dữ liệu này là gì?

Ở mức rất cơ bản, tôi hiểu rằng ChatGPT sử dụng một kho dữ liệu có tên là WebText, bao gồm dữ liệu do con người tạo ra có sẵn trên Internet. Hơn nữa, WebText là một cơ sở dữ liệu tĩnh — một ảnh chụp nhanh dữ liệu có sẵn trên internet tại một thời điểm cụ thể. Điều đáng chú ý là dữ liệu đào tạo ChatGPT được giới hạn đến năm 2021.

Ảnh chụp màn hình của ChatGPT

Ví dụ: tôi đã hỏi ChatGPT về trận động đất gần đây ở Thổ Nhĩ Kỳ và Syria và nó đề cập đến một trận động đất khác xảy ra vào năm 2020. Câu trả lời chung sau đây là hợp lý ngay cả trong tình huống ngày nay, điều này cũng cho chúng ta thấy cách chúng ta gán ý nghĩa cho nội dung.

Ảnh chụp màn hình của ChatGPT

Trong “Về sự nguy hiểm của những con vẹt ngẫu nhiên”, các tác giả cảnh báo về tác hại của dữ liệu tĩnh trong một thế giới với các quan điểm xã hội đang thay đổi. Họ nói rằng các phong trào xã hội mới nhất sẽ không xuất hiện trong câu chuyện do các công cụ như ChatGPT tạo ra.

Câu hỏi 3: Các Mô hình Ngôn ngữ (LM) có những loại sai lệch nào? Và làm thế nào để họ lọc nội dung?

Internet không đại diện cho toàn bộ xã hội của chúng ta. Nó gặp phải tình trạng bất bình đẳng về quyền truy cập, các trang mạng xã hội tích cực ngăn chặn tiếng nói, rào cản ngôn ngữ, v.v. Điều này có thể tạo ra thành kiến trong bộ dữ liệu được sử dụng để đào tạo các công cụ như ChatGPT. Và các tác giả của bài báo, “Về sự nguy hiểm của những con vẹt ngẫu nhiên: Các mô hình ngôn ngữ có thể quá lớn không?” xác nhận rằng các bộ dữ liệu có khả năng mã hóa các sai lệch đối với các nhóm dân số bị thiệt thòi.

“Có một mối nguy hiểm là các bộ dữ liệu có thể đại diện quá mức cho các quan điểm bá quyền và mã hóa các thành kiến có khả năng gây tổn hại cho các nhóm dân cư bị thiệt thòi…”

Họ nói rằng các Mô hình ngôn ngữ không thực hiện Hiểu ngôn ngữ tự nhiên (NLU) mà chủ yếu chỉ thao túng hình thức ngôn ngữ. Mặc dù bề ngoài điều này có vẻ vô hại, nhưng nó có thể là điều xấu xa vì con người chúng ta chắc chắn sẽ coi văn bản tổng hợp là có ý nghĩa.

Nếu dữ liệu ném nội dung thiên vị vào chúng tôi, ai biết chúng tôi sẽ xử lý nội dung đó như thế nào — chúng tôi sẽ đặt những điểm kiểm tra nào?

Câu hỏi 4: Nội dung mà một công cụ AI tạo ra do lời nhắc của tôi là của tôi một cách hợp pháp hay nội dung đó thuộc về ChatGPT? Điều gì xảy ra với vấn đề bản quyền trong một thế giới mà mọi người đều sử dụng công cụ AI để viết nội dung?

Câu hỏi 5: Ngược lại, chúng ta có nên nghĩ ra một loại bản quyền khác theo đó chúng ta có tùy chọn tích cực để ngăn nội dung chúng ta tạo ra khỏi bị sử dụng bởi bộ dữ liệu AI không? Và các quy tắc như vậy sẽ tác động đến lĩnh vực này như thế nào?

Mặc dù tôi đã dán những câu hỏi này vào ChatGPT để xem nó nói gì, nhưng tôi không có bất kỳ câu trả lời nào cho những câu hỏi này. Tôi sẽ rất vui khi đọc thêm về điều này, vì vậy tất cả các tài nguyên đều được chào đón.

Câu hỏi 6: Cái gì? Có tác động môi trường đáng kể nào khi vận hành các hệ thống học sâu này không?

Rõ ràng, có một tác động môi trường khi vận hành các hệ thống này, và nó rất đáng kể. Margaret Mitchell* và các nhà nghiên cứu khác trong bài báo của họ đề cập đến thực tế này và nói rằng mặc dù các xã hội bị thiệt thòi được hưởng lợi ít từ sự đổi mới như vậy, nhưng họ phải trả chi phí môi trường cao.

Về mối nguy hiểm của những con vẹt ngẫu nhiên: Các mô hình ngôn ngữ có thể quá lớn không?: Trong khi con người trung bình chịu trách nhiệm cho khoảng 5 tấn CO2e ước tính mỗi năm, các tác giả Strubell et. al. đã đào tạo một mô hình Máy biến áp (lớn) bằng tìm kiếm kiến trúc thần kinh và ước tính rằng quy trình đào tạo đã thải ra 284 tấn CO2e.

Câu hỏi 7: Những công cụ dựa trên AI này dẫn đến loại vấn đề công bằng nào?

Các công cụ như ChatGPT đã vượt qua tường phí. Khoảng cách hiện tại do thiếu hiểu biết, khả năng tiếp cận thiết bị máy tính/Internet không đồng đều và hiểu biết về kỹ thuật số sẽ chỉ trở nên trầm trọng hơn bởi những công nghệ này.

Câu hỏi 8: Các công cụ AI sẽ tác động đến việc tạo và phân tích dữ liệu học tập như thế nào? Nghiên cứu dữ liệu định tính sẽ được thúc đẩy như thế nào?

Sẽ rất thú vị khi xem không gian phân tích học tập để xem điều gì sẽ xuất hiện.

Ở cấp độ cá nhân, khi chúng tôi chạy MOOCs truyền thống tại nơi làm việc của mình, chúng tôi hệ thống hóa dữ liệu định tính và phân loại thủ công các phản hồi để phân tích dữ liệu. Chúng tôi chỉ có thể cung cấp mã và ví dụ cho ChatGPT và truy xuất dữ liệu được phân loại. Tôi không thể bắt đầu tự hỏi làm thế nào những công cụ này có thể thay đổi các quy trình như thế này và thậm chí có thể thay đổi cả những câu hỏi mà chúng tôi đặt ra.

Câu hỏi 9: Chuyển sang chủ đề đang khiến hầu hết các nhà thiết kế giảng dạy, giáo viên và trường đại học lo lắng — ChatGPT sẽ tác động đến giáo dục như thế nào?

Mặc dù đây là một câu hỏi rộng với nhiều khả năng cần phân tích cẩn thận, một số câu hỏi hẹp hơn mà bạn nên cân nhắc là:

ChatGPT sẽ đánh giá tác động như thế nào?
Chúng ta làm gì nếu học sinh “gian lận”? Chúng ta có nên sử dụng phần mềm phát hiện AI để ngăn học sinh sử dụng nó không?
Làm cách nào chúng ta có thể sử dụng các công cụ dựa trên AI để hỗ trợ học tập được cá nhân hóa hơn?
Liệu các công cụ dựa trên AI có loại bỏ nhu cầu tạo các khóa học từ đầu không?
Việc sử dụng các công cụ dựa trên AI có loại bỏ nhu cầu suy nghĩ nghiêm túc không?

Câu hỏi đánh giá

Tôi chắc chắn rằng nhiều chiến lược sẽ xuất hiện để đối phó với các đánh giá. Đây là một cái mà tôi đặc biệt thích. Tiến sĩ Aneesha Bakharia nói rằng việc đưa ra những gợi ý thích hợp để tạo ra nội dung phù hợp cần có kiến thức, kỹ năng suy luận và kỹ năng gợi ý. Vì vậy, yêu cầu sinh viên chia sẻ lịch sử nhắc nhở AI của họ là một cách tiếp cận. Cô ấy cũng đã chia sẻ công cụ này để theo dõi, lưu và chia sẻ lịch sử nhắc nhở của AI:https://sharegpt.com/

Tôi không biết học sinh sẽ từ bỏ quyền gì khi chấp nhận sử dụng các công cụ liên quan đến AI này. Vì vậy, giống như bất kỳ công cụ công nghệ nào khác, tôi nghĩ đây sẽ là câu hỏi mà nhiều nhà giáo dục sẽ khám phá khi họ bắt đầu kết hợp những công nghệ này vào lớp học thông thường của mình.

câu hỏi gian lận

Trong một vài cuộc hội thảo, tôi đã nghe Tiến sĩ Bakharia đưa ra hai điểm rất thú vị về câu hỏi này. Cô ấy nói rằng gian lận không có nghĩa là học sinh sử dụng AI để viết câu trả lời mà là sử dụng các gợi ý được tạo sẵn để tạo ra câu trả lời. Đó là nhìn gian lận từ lăng kính AI.

Một điểm khác mà cô ấy đưa ra là bạn có thể không thể đánh bại công nghệ bằng công nghệ. Các giáo viên đang nói về việc sử dụng các công cụ để xác định văn bản do AI tạo ra. Nhưng các sinh viên đã sử dụng các công cụ để diễn giải văn bản do AI tạo ra để đánh bại phần mềm phát hiện AI. Vì vậy, cuộc rượt đuổi mèo vờn chuột này sẽ không thực sự kết thúc tốt đẹp.

Ý tưởng là tin tưởng vào học sinh, giảng dạy vì động lực nội tại và kết hợp công nghệ AI vào giảng dạy.

Câu hỏi cá nhân hóa

Tôi nghĩ các công cụ AI sẽ trở thành hướng dẫn hỗ trợ tối ưu trong công việc của chúng tôi. Microsoft đang cố gắng kết hợp AI trong Teams. Chúng tôi có thể sẽ có AI trong quy trình công việc sẽ nhắc nhở và chỉ đạo chúng tôi (mặc dù mối quan tâm về bảo mật/quyền riêng tư/bản quyền dữ liệu có thể cao trong việc sử dụng công nghệ của doanh nghiệp như ngày nay).

Nhưng câu hỏi đặt ra là: Liệu AI có làm gián đoạn việc học trực tuyến đủ để khiến chúng ta rời xa các mô hình truyền thống lấy giáo viên làm trung tâm hay nó sẽ trở thành một công cụ hỗ trợ trong mô hình giảng dạy truyền thống?

Chẳng hạn, khi nghiên cứu các diễn đàn thảo luận trong không gian MOOC truyền thống, tôi thấy rằng chúng được thiết kế sao cho người hướng dẫn không cần phải trả lời cuộc trò chuyện diễn ra trong diễn đàn thảo luận. Người học tương tác với nhau và nhận được phản hồi “lý tưởng” thông qua các video được quay sẵn, các giải pháp được viết sẵn hoặc dưới dạng phản hồi chung. Trong các MOOC tuyến tính, truyền thống, AI có cho phép chúng ta mở rộng phạm vi tiếp cận không?

Câu hỏi dự phòng

AI chắc chắn sẽ hỗ trợ quá trình thiết kế khóa học trực tuyến — nó có thể không khiến các nhà thiết kế hướng dẫn trở nên dư thừa, nhưng nó sẽ giải phóng thời gian của chúng tôi để thiết kế lấy người học làm trung tâm quan trọng hơn vì việc tạo nội dung sẽ được hỗ trợ bởi AI. Tôi không chắc, nhưng dù sao đó cũng là suy đoán của tôi.

Đây là một ví dụ đáng kinh ngạc của Tiến sĩ Aneesha Bakharia, người đã để ChatGPT đóng vai trò là chuyên gia về chủ đề, nhà thiết kế học tập và lập trình viên (sử dụng Liascript ) để tạo khóa học bao gồm điều hướng, chức năng tìm kiếm và tương tác. Và đó là đầu ra:https://liascript.github.io/course/?https://raw.githubusercontent.com/aneesha/chatgpt_grammar_course/main/README.md

Câu hỏi tư duy phản biện

Các công cụ tìm kiếm đã mang đến cho chúng ta điều chưa từng có trong lịch sử tồn tại của loài người. Họ đã cho chúng tôi khả năng tìm kiếm các nguồn dữ liệu, sàng lọc chúng, xác định các nguồn có vẻ đáng tin cậy, kết nối với các đồng nghiệp trong lĩnh vực từ khắp nơi trên thế giới, lắng nghe các quá trình suy nghĩ khác nhau và sau đó tiếp thu thông tin mới hoặc hình thành kiến thức mới về một đề tài. Nhìn bề ngoài, có vẻ như các công cụ dựa trên AI sẽ phục vụ chúng ta thức ăn đã nấu chín và sẽ loại bỏ sự cần thiết của quá trình khám phá này. Mặc dù điều đó có thể đúng ở một mức độ nào đó, nhưng tôi không nghĩ rằng các công cụ sẽ đi quá xa nếu không có sự can thiệp của con người. Để sử dụng tốt công nghệ này, chúng ta cần khám phá, học hỏi, nghiên cứu và sau đó tương tác lại với công nghệ.

Tìm kiếm ngẫu nhiên, khám phá và nói chuyện với đồng nghiệp — loại nghiên cứu dẫn đến cái mà Daniel Pink gọi là “sự va chạm của các ý tưởng”, là điều cần thiết cho sản phẩm sáng tạo. Vì vậy, tôi nghĩ chúng ta sẽ phải sử dụng các công cụ dựa trên AI theo cách mà chúng ta không tích cực đóng khung bản thân vào các kiểu suy nghĩ hoặc cấu trúc ý tưởng mà các công cụ này tạo ra. Đó sẽ là một thực hành tích cực mà chúng ta cần tiếp tục một cách chánh niệm .

Câu hỏi 10: Trò chuyện GPT, DALL-E là hai công cụ mà tôi đã khám phá cho đến nay — các công cụ AI khác có sẵn mà chúng ta có thể bắt đầu khám phá là gì?

Bước tiếp theo

Mọi người đã tạo biểu đồ hiệu ứng Dunning Kruger cho ChatGPT (công cụ dựa trên AI) và tôi đoán rằng tôi đã vô tình lướt qua nó qua bài đăng này.

Khám phá những cách ChatGPT có thể được sử dụng để học thiết kế sẽ là điều tiếp theo trong danh sách những thứ của tôi. Tất nhiên, để làm được điều đó, tôi cũng cần học thêm các kỹ năng nhắc nhở nâng cao, có lẽ tôi sẽ ghi lại trong một bài viết khác.

Nói chung, chúng ta vẫn sẽ là bậc thầy của máy móc, miễn là chúng ta tiếp tục nỗ lực hết mình và tiếp tục làm việc cùng nhau. Vì vậy, vui lòng giúp tôi sửa những câu hỏi này, tìm câu trả lời cho chúng và chia sẻ các tài nguyên thú vị để phát triển thêm các câu hỏi về chủ đề này. Cùng nhau, chúng ta sẽ đánh bại các bot!