Và Sydney cũng vậy. Củng cố một số suy nghĩ về hai tuần thú vị với những bất ngờ, tiến bộ và rút lui trong AI.

Phần sau tập hợp ba chủ đề twitter về sự ra mắt của ChatGPT, sự ra mắt của Bing Chat, những bất ngờ và sự sụt giảm (quá dễ đoán) của “Sydney”.

Khi ra mắt ChatGPT

1/ Không ngoa khi nói rằng có lẽ chatGPT đã chiếm được trí tưởng tượng của nhiều người nhất trong thời gian ngắn nhất của bất kỳ công nghệ điện toán nào. Rằng bất kỳ ai cũng có thể sử dụng nó ngay lập tức và tự mình xem là một phần quan trọng của nó. Năng suất sử dụng “nó” sẽ phát triển như thế nào?

2/ Sự phân cực của nỗi sợ hãi <> cơ hội về cơ bản là phù hợp với mọi thứ ngày nay. Điều đó làm tôi hơi buồn. Tôi chắc chắn là một trong những người coi đây là một bước tiến. Tôi là một người tin tưởng vào sự đổi mới toàn diện và không phải đoán già đoán non ở mỗi bước.

3/ Rất nhiều quân cờ 4-D dự đoán mọi thứ sẽ diễn ra như thế nào. Ai sẽ thắng hay thua? Bao nhiêu một sự thay đổi nền tảng là “AI” hay không? Còn quá sớm để biết. Nếu PC, điện thoại, đám mây hoặc internet là kim chỉ nam — thì những người cảnh giác/bi quan sẽ nhanh chóng tụt lại phía sau vì tốc độ tăng trưởng theo cấp số nhân là như vậy.

4/ Có những điểm tương đồng để học hỏi và giúp hướng dẫn chúng ta về cách thức công nghệ sẽ phát triển. Không phải là một con đường, mà là các loại con đường có thể đi theo. Lịch sử gieo vần. Tại sao? Bởi vì cả người sản xuất và người tiêu dùng đều là con người và con người tuân theo các khuôn mẫu, mặc dù không chính xác.

5/ Đầu tiên, trong 6–12 tháng tới, mọi sản phẩm (trang web/ứng dụng) có trường văn bản dạng tự do sẽ có trường văn bản “AI-enhanced”. Tất cả văn bản đã nhập (được nói) sẽ được chỉnh sửa, sửa chữa, tinh chỉnh hoặc "chạy qua" một LLM. Mỗi hộp văn bản trở thành một hộp nhắc.

6/ Đây là một bổ sung tầm thường cho hầu hết mọi sản phẩm. Một số sẽ tăng cường với nhiều chuông & còi hơn. Ví dụ: có thể có đề xuất tự động (chi phí API sang một bên) hoặc một số "mở rộng truy vấn" cụ thể lấy văn bản và hướng dẫn nâng cao. Mọi người sẽ gọi API.

7/ Điều này sẽ được thực hiện để thu hút sự chú ý đến tính năng mới nhưng cũng để bổ sung thêm diện tích bề mặt để chứng minh rằng có một số chiều sâu đối với công việc ngoài việc chỉ cung cấp những gì một loại cho LLM.

8/ Điều này làm tôi nhớ đến một ví dụ thông thường về việc kiểm tra chính tả được chuyển từ một tính năng độc lập sang tích hợp vào xử lý văn bản thành các bộ và sau đó nó xuất hiện trong trình duyệt. Đột nhiên, đó không phải là một tính năng của ứng dụng mà mọi hộp văn bản đều có tiếng kêu.

9/ Ban đầu thì gọn gàng. Sau đó, chúng tôi nhanh chóng biết được số lượng chúng tôi nhập vào các hộp chỉnh sửa không thể kiểm tra chính tả. Tất cả những tên đường phố, số phần và tên người. Nếu bạn mù quáng tự động sửa lỗi, bạn sẽ kết thúc bằng những từ vô nghĩa. Bạn vẫn làm. Đừng phán xét sớm!!

10/ LLMs cũng sẽ như thế này. Nói cách khác, phát minh sẽ nhanh chóng phổ biến nhưng thực sự “tạo ra công việc” cho mọi người vì để nhận ra lợi ích, cần phải có “con người trong vòng lặp” để làm trơn tru phần văn bản nâng cao hoặc “sửa chữa”.

11/ Mọi người sẽ rất chỉ trích bước này. Nhiều người sẽ chê bai sự đổi mới khi nói rằng phải mất nhiều thời gian để sửa chữa hơn là chỉ thực hiện công việc ngay lần đầu tiên. Việc kiểm tra ngữ pháp cũng từng như vậy. Nhưng không phải cho tất cả mọi người…

Tái bút/ Một số sẽ ngay lập tức muốn cấm sử dụng một công cụ “sai” hoặc “loại bỏ con người”. Bạn có thể nghĩ rằng kiểm tra chính tả là tầm thường, nhưng tôi đã phải xin phép sử dụng nó vào năm mới để viết bài. Ở trường trung học, tôi đã phải hỏi nguyên tắc để sử dụng nó. giống như máy tính.

12/ Rồi sau một thời gian nữa sẽ có một bước tiến đáng kể hơn nhiều trong công nghệ. Kiểm tra chính tả cũ là một từ điển trên PC cục bộ. Sau đó, Google đã sử dụng tất cả những gì họ mang đến cho bữa tiệc để phát hành “kiểm tra chính tả trên đám mây” sử dụng… internet.

13/ Kể từ đó chính tả (và ngữ pháp) không giống nhau. Đó là 10 năm sau các trình duyệt đầu tiên và khoảng 25 năm sau trình kiểm tra chính tả độc lập đầu tiên dành cho PC và bây giờ mọi người đều có nó. Nhưng không ai bị phân biệt bởi nó. Tại sao?

Tái bút/ Đây là lịch sử của những dòng chữ nguệch ngoạc màu đỏ.

036. Fancy Wizard và Red Squiggles Vòng lặp nhàn rỗi là sân chơi của quỷ. –Các nhà phát triển trong nhóm Wordhttps://hardcoresoftware.learningbyshipping.com/p/036-fancy-wizard-and-red-squiggles

14/ Có nhiều công ty độc lập cung cấp công cụ đánh vần (hoặc công cụ viết analagois). Nhiều *trình xử lý văn bản* tập trung vào “gõ tốt hơn” và thêm chính tả, ngữ pháp, tab, số trang, v.v. Nhưng sau đó, một cuộc chiến tính năng đã xảy ra sau đó. 100 và 1000 tính năng mới.

15/ Nhiều người cho rằng những cuộc chiến tính năng này là “phình to” nhưng chúng đóng vai trò quan trọng trong cách khách hàng tiêu thụ sản phẩm và điều đó có nghĩa là bạn không thể là “chú ngựa một con” trên thị trường. Không có "đơn giản". Người tiêu dùng có được các công cụ năng suất cho “trường hợp xấu nhất” chứ không phải trường hợp đơn giản hoặc duy nhất.

16/ Về mặt quan trọng, sản phẩm chiến thắng là sản phẩm làm được công việc *quan trọng* nhất, không phải công việc tầm thường nhất. Ví dụ, máy đánh chữ rất tốt trong việc điền vào các biểu mẫu, nhưng trình xử lý văn bản thì không. Phải mất nhiều năm trước khi các biểu mẫu là một thứ của WP, nhưng sách, bản kê khai, v.v. → WORD!

17/ Điều quan trọng là làm những công việc quan trọng, không chỉ đơn giản là tự động hóa những công việc rẻ tiền hoặc dễ dàng. Các công cụ giành chiến thắng sẽ khái quát hóa những vấn đề quan trọng nhất mà mọi người gặp phải. Chi phí bổ sung các công cụ bổ sung hoặc “giải pháp điểm” cao hơn nhiều so với tiết kiệm.

18/ Mọi người nghĩ tự động hóa đơn giản là “loại bỏ công việc”. Điều đó đã không được chứng minh là trường hợp. Trên thực tế, điều có xu hướng xảy ra là nhiều công cụ sáng tạo/tự động hóa hơn đồng nghĩa với việc nhiều người thêm tính “sáng tạo” vào công việc của họ. Bây giờ tất cả chúng tôi điền vào các biểu mẫu, không chỉ hỗ trợ hành chính. (src không xác định)

19/ Các công cụ tốt hơn đưa sự sáng tạo đến gần hơn với nơi mà “con người trong vòng lặp” mang lại nhiều giá trị nhất. PowerPoint là một ex của điều đó. Tất cả chúng ta đều có thể phàn nàn về “các trang trình bày” nhưng với một công cụ tuyệt vời (dành cho công việc *quan trọng*), những người có kỹ năng/kiến thức nhất sẽ sử dụng các công cụ đó để thực hiện công việc trước đây là “hỗ trợ”.

20/ Khi email ngày càng phổ biến và Office chỉ là Word, Excel, PowerPoint, chúng tôi vô cùng lo ngại rằng tất cả “tài liệu” sẽ trở thành các thư ASCII đơn giản — tất cả các tính năng đó sẽ không còn quan trọng nữa. *SAI* Email khiến mọi người trở thành “người đóng góp nội dung” ngay cả những người điều hành lâu năm.

21/ Ppl *đã* ngừng sử dụng Word cho một trang chương trình cuộc họp. Nhiều người ngừng ghi chú trong Word. (Giống nhau cho các tác vụ Excel hoặc PowerPoint tương đương). NHƯNG khi công việc quan trọng và *quan trọng* thì sự đóng góp của con người trong vòng lặp cũng quan trọng và việc có công cụ “mạnh mẽ nhất” cũng vậy.

22/ Đó là lý do tại sao Office, có thể nói là _Văn phòng hút hồn_, vẫn được hàng trăm triệu người sử dụng. Đó không phải là quán tính mà là do công việc *quan trọng* đã được thực hiện ở đó và nếu có khả năng bên ngoài cần phải hoàn thành một việc quan trọng nào đó, thì những tính năng đó mới quan trọng.

23/ Nhiều người dường như nghĩ rằng các LLM sẽ “loại bỏ” việc làm hoặc quét sạch toàn bộ các công việc sáng tạo. Tôi nghĩ những gì sẽ xảy ra sẽ xảy ra theo hai giai đoạn. Đầu tiên, tất cả các công cụ sáng tạo được sử dụng sẽ được tăng cường bằng LLM và rất nhanh chóng. Mọi người sẽ sử dụng những cải tiến này — con người trong vòng lặp.

24/ Sau đó, theo thời gian, các công cụ mới sẽ xuất hiện có thể thay thế các công cụ cũ. Đây là điều đã xảy ra khi máy đánh chữ thay thế sắp chữ, thay thế bằng xử lý văn bản ký tự, thay thế bằng đồ họa và chỉ bây giờ chúng ta mới thấy những thay đổi trong cách viết - 35 năm sau.

25/ Chìa khóa là các công cụ mới, được xây dựng từ đầu giả định rằng các LLM sẽ cần có chỗ đứng để thực hiện công việc quan trọng nhất và họ cũng cần thực hiện những công việc bình thường. Họ cần phải được tiếp cận bởi những người làm công việc bình thường và quan trọng. Nếu không thì chúng chỉ là những điểm hòa tan.

26/ Tại sao mọi thứ phát triển theo cách này là vi tế. Trong môi trường làm việc, không thiếu những người “quan trọng” - mọi người đều nghĩ rằng công việc của họ là quan trọng. Mọi bộ phận. Mỗi nhiệm vụ sáng tạo. Có vô số yêu cầu hoặc “nhu cầu” sẽ được dựng lên như những rào cản đối với sự thay đổi.

27/ Công việc của mọi người nhìn từ bên ngoài có vẻ dễ dàng. Nhưng cho đến khi bạn thực sự cố gắng tự động hóa một công việc không còn tồn tại hoặc thay thế quy trình làm việc hoặc công cụ của một công việc, thì bạn mới thực sự biết phần con người là gì hoặc “công việc” diễn ra ở đâu.

28/ Trên hết, một khi các công cụ bắt đầu được nhiều người sử dụng hơn thì nhu cầu về những gì được sản xuất ra sẽ tăng lên. Điều đó có nghĩa là nhiều người cần phải làm nhiều việc hơn. Điều đó có nghĩa là kỳ vọng về những gì “tốt” hoặc “quan trọng” đều tăng lên. Các công cụ mới không chỉ tự động hóa mà còn tạo ra công việc.

29/ Một ví dụ cuối cùng. Trong khoa học vật lý và toán học, viết từng yêu cầu sắp chữ đặc biệt (toán học, vật lý) hoặc thậm chí là người soạn thảo (đối với mô hình phân tử, quy trình làm việc trong phòng thí nghiệm). Có những người trong mọi công ty / bộ phận đã làm công việc này.

30/ LaTeX, ChemDraw, v.v. ra đời và sau đó tất cả các nhà nghiên cứu đều là người sáng tạo. Các bài báo có nhiều digrams và toán học hơn. Kỳ vọng để trình bày thông tin đã tăng lên. Và những người soạn thảo/sắp chữ đó không chỉ bị loại bỏ mà còn sử dụng những công cụ này cho công việc nâng cao hơn nữa.

31/ Điều này cho thấy rằng ngay cả trong công cụ nâng cao và dành riêng cho miền, những cải tiến lớn đó không chỉ đơn giản là làm cho công việc của mọi người trở nên dễ dàng hơn (hoặc biến mất) mà còn tạo thêm công việc cho mọi người — đối với các chuyên gia — để làm nhiều hơn, tạo ra nhiều hơn và trên hết là để là con người trong vòng lặp. // KẾT THÚC

Về sự phát triển của năng suất khi sử dụng ChatGPT và các vấn đề sẽ phải đối mặt

Thêm vào sự phấn khích đối với LLM và tiếp tục tác động đến các kịch bản năng suất. LLM đại diện cho tiến bộ công nghệ đầu tiên có tiềm năng triển khai liền mạch trên điện thoại thông minh 7B và do đó có thể là một sự thay đổi nền tảng. LỚN bò ở đây. 1/

2/ Công nghệ đã chuẩn bị cho sự thay đổi nền tảng trong khoảng 10 năm khi thiết bị di động/xã hội/đám mây ổn định. Điều gì tiếp theo? Tất nhiên nó phải rất lớn — cả hành tinh đã sử dụng nền tảng hiện tại. Bằng cách xếp lớp trên M/S/C và không yêu cầu thiết lập lại thiết bị hoặc kế thừa, tiềm năng sẽ rất lớn. Vâng!

3/ Đã nói rất nhiều về “Sự gián đoạn của Google”, “Sự lãnh đạo của Microsoft”, “Sự thay đổi của người bảo vệ”, và “sự gián đoạn” chung chung hay “thế giới hoàn toàn mới”. Đây là tất cả sớm hoặc chỉ là ngớ ngẩn. OTOH công nghệ sẽ xảy ra. “Con mèo đã ra khỏi túi” và việc triển khai hàng loạt sẽ là bước tiếp theo.

4/ Các ý kiến ​​đã phân cực như mọi thứ khác trong xã hội ngày nay. Lập luận “ủng hộ” hoặc “chống lại” nhanh chóng dẫn đến việc chọn phe và chuẩn bị cho trận chiến. “Thông tin sai lệch”, “Không hiểu”, “Loại bỏ/tái tạo lại tất cả các công việc” và hơn thế nữa. Ư.

5/ LLM đáp ứng tiêu chí quan trọng & cần nhưng chưa đủ để chuyển đổi nền tảng. Chúng không hoạt động mọi lúc, các trường hợp ranh giới rất phong phú. Nhớ lại từ “Phần mềm Hardcore” trong thập kỷ đầu tiên của PC đúng nghĩa là “làm cho chúng hoạt động”. Internet? bảo mật, liên kết bị hỏng, v.v.

6/ NHƯNG NHƯNG bỏ qua một số lo ngại cũng ngây thơ như bỏ qua bản chất cấp số nhân của sự thay đổi. Có rất nhiều sự cường điệu. Một điều mà tôi đã học được về AI qua một số “mùa đông” là sự cường điệu là do “khái quát hóa” những gì dẫn đến một bước tiến đáng kể trong một điểm được giải quyết.

7/ Những mùa đông cứ diễn ra vì các nhà công nghệ và bác học có xu hướng đi trước một bước và khái quát hóa nó. Giống như những tiến bộ trong ngôn ngữ lập trình, AI thực sự có thể làm cho một kịch bản trở nên dễ dàng hơn và không cần phải làm cho tất cả các kịch bản trở nên dễ dàng/có thể thực hiện được.

8/ Điều đó nói rằng, LLM đại diện cho sự va chạm của các loại theo hai chiều: LLM là mặc định
• lạc quan/tích cực và tương lai của tất cả phần mềm, năng suất, sáng tạo
• hoài nghi/tiêu cực và cần phải được hạn chế trước và biến thành “có trách nhiệm” công nghệ

9/ Trong thực tế, hầu hết đều muốn có một trung gian rộng rãi: tất cả chúng ta hãy cùng hưởng lợi từ những tiến bộ trên thị trường. Những người lạm dụng hoặc lạm dụng nó phải chịu trách nhiệm

Chưa bao giờ có một công nghệ mới phổ biến rộng rãi với chi phí thấp như vậy nhanh chóng bị nhiều người cho là tiêu cực ròng. Thở dài.

10/ Có ba lĩnh vực (A, B, C) cần được quan tâm một cách chính đáng bao gồm những tiêu cực được cho là tiêu cực và làm giảm bớt sự lạc quan mù quáng.

Khía cạnh quan trọng nhất là đây là điều tạo ra cơ hội cho các công ty thế hệ tiếp theo và gây khó khăn cho các công ty đương nhiệm.

11/ (A) LLM, đặc biệt là đối với tìm kiếm trên web, về cơ bản đã phá vỡ hoặc đặt câu hỏi, chính internet (web). Đúng.

Web dựa vào liên kết. Tìm kiếm dựa trên thu thập dữ liệu. Các thực thể đóng góp vào web cho phép thu thập dữ liệu vì lợi ích của việc được liên kết với.

12/ Nếu các LLM chỉ đơn giản sử dụng khía cạnh thu thập thông tin của internet mà không trả về các liên kết thì động cơ khuyến khích cho phép thu thập thông tin và cuối cùng là liên kết sẽ biến mất.

Đối với các trang web có nội dung lớn nhất có đăng ký hoặc có đủ khả năng chi trả thì không sao. Nhưng như chúng ta đã thấy với tin tức, hầu như không ai có thể.

13/ Hôm nay đây đã là một khu vực đầy căng thẳng. NHƯNG nó không phải là mới. Khi tôi quản lý các nỗ lực tìm kiếm của Microsoft (2006–7), *nỗ lực* khổng lồ được dồn vào việc tạo các đoạn mã phù hợp và cạnh tranh với thứ đã trở thành “Google Onebox”. Cung cấp câu trả lời mà không cần nhấp chuột.

14/ *Nỗ lực* là làm thế nào để tránh vi phạm web, đánh cắp nội dung và thúc đẩy sử dụng hợp pháp một cách hợp lý. Điều này dẫn đến một loạt thay đổi trong ngành như nội dung cấp phép, quan hệ đối tác, tìm kiếm “dọc”. Và lỗi quét sách.

15/ Vì vậy, trong khi mọi người muốn tìm kiếm chỉ đơn giản là “cho tôi biết câu trả lời” trừ khi nhà cung cấp dịch vụ tìm kiếm “biết” câu trả lời hoặc “đã mua” câu trả lời, hoặc đó là phạm vi công cộng, thì nó không thể đơn phương thu thập thông tin trên internet để tìm nó cho miễn phí.

16/ Điều này dẫn đến (B) Hệ thống pháp luật không có khuôn khổ cho việc tái sử dụng quy mô lớn này. Đây có phải là Betamax, Napster, YouTube/UGC không? Luật bản quyền, sở hữu tư nhân, phỉ báng, sử dụng hợp pháp, tác phẩm phái sinh, đạo văn, v.v. áp dụng ngay cho cả LLM đào tạo và đầu ra.

17/ “Con mèo đã ra khỏi túi” là lập luận cho việc bỏ qua Betamax và sau này là sản phẩm thương mại. Nhưng những điều đó đã kết thúc khác và quan trọng là việc sử dụng tại nhà rất khác so với việc “lưu trữ, phát lại, truyền lại” dữ liệu của người khác để tiêu thụ MASS.

18/ Việc lập luật quá thông minh theo kiểu “xâu kim” sẽ không thay đổi được thực tế rằng đào tạo đang tạo ra một bản sao dữ liệu của người khác, sử dụng nó và ngay cả khi bản sao chính xác bị loại bỏ thì một tác phẩm phái sinh vẫn được tạo ra.

18A/ Hãy tưởng tượng nếu mọi kết quả đi kèm với mọi nguồn đóng góp vào đầu ra nhanh chóng — gần như là một chế độ xem gỡ lỗi. Đó có phải là "tìm nguồn cung ứng" hợp pháp hay về cơ bản là một cuộc tấn công từ chối dịch vụ đối với hệ thống pháp luật?

19/ Ở trường trung học cơ sở, chúng ta đều đã học: thứ nhất, bạn không thể sao chép phần lịch sử Hy Lạp của một cuốn bách khoa toàn thư và gọi đó là báo cáo về Sparta. Thứ hai, bạn không thể đơn giản di chuyển các từ xung quanh và thêm một câu từ tác phẩm khác nếu phần lớn báo cáo là từ Sách Thế giới.

20/ Nhiều người ca ngợi việc sử dụng chú thích và nguồn của Bing. Bỏ qua vai trò trong tương lai mà vị trí trả phí sẽ có trong đó, người ta cần phải cực kỳ rõ ràng rằng đây không phải lúc nào cũng là nguồn theo nghĩa có thể kiểm chứng/hợp pháp. Bạn không thể trích dẫn một cái gì đó và nói một cái gì đó khác nhau.

21/ Chờ đã, 1) có một liên kết nên hãy tìm hiểu nó. Và 2) nó chỉ là một thuật toán máy tính lấy văn bản, viết lại nó, thêm những thứ khác, v.v. giống như một người. CHÍNH XÁC, và một người (đặc biệt là người kiếm tiền) NÊN CHỊU TRÁCH NHIỆM.

22/ Trong 25 Mục 230 trước đây, một người có thể đăng một cái gì đó trên internet và bất cứ nơi nào họ đăng nó không được tính là tác giả. Bây giờ chúng tôi có một tác giả bên thứ nhất, con người trực tiếp hay không, và đó chính xác là những gì không được bảo vệ.

23/ Tất nhiên các công ty lớn biết điều này, và do đó, việc sử dụng API của bên thứ ba hoặc sử dụng các bên thứ ba khác để thực hiện việc cạo, viết lại, v.v. có vẻ như là một hình thức cách ly hợp pháp. Đọc vụ kiện Getty kiện Ổn định để biết chính xác lý do này.

24/ YouTube khi được mua lại được coi là trách nhiệm pháp lý đối với google vì vấn đề bản quyền với UGC. Theo thời gian, YouTube đã trở thành một mô hình bảo vệ IP hợp pháp. Phải mất một thập kỷ. Và YT bây giờ rất khác so với trước đây về mặt đó.

25/ Không thể phủ nhận thực tế là một trang web không thể chỉ di chuyển các từ xung quanh và cung cấp một liên kết và tuyên bố rằng đó chỉ là “nghiên cứu” hoặc “sử dụng hợp pháp” hoặc “tác phẩm phái sinh”. Có 200 năm luật pháp và bảo vệ hiến pháp tại nơi làm việc.

26/ Khi nói đến “sự gián đoạn”, phần lớn niềm tin của tôi là Google đã dành hơn 20 năm vật lộn với chủ đề này đồng thời cân bằng giữa nhu cầu/mong muốn kinh doanh. Sự thận trọng của họ là kết quả của thực tế mà họ đã trải qua.

27/ Điều này dẫn đến lĩnh vực quan tâm lớn thứ ba (C) và đó là khái niệm “AI có trách nhiệm” mà tôi tin rằng sẽ dẫn đến việc giảm đáng kể đầu ra nhưng cũng là một cơ hội *LỚN* bị bỏ lỡ để làm cho tri thức của thế giới dễ tiếp cận hơn .

28/ “Trí tuệ nhân tạo có trách nhiệm” là lần đầu tiên một công nghệ tạo ra một hành động gần như của cảnh sát trước khi nó được triển khai — chủ yếu xuất hiện trong những ngày đầu của nhận dạng hình ảnh. Hãy tưởng tượng nếu chúng ta đã khóa những chiếc PC đời đầu là Máy tính đáng tin cậy, nhưng vào năm 1985 hoặc internet ở… twitter.com/i/web/status/1…

29/ Các công ty lớn nhất của Hoa Kỳ và các CEO đã tạo ra “Khuyến nghị chính sách cho trí tuệ nhân tạo có trách nhiệm”, trong đó trước khi sử dụng/triển khai thực tế, họ đã kêu gọi quốc hội điều chỉnh AI [sic]. s3.amazonaws.com/brt.org/Busine…

30/ Những điều này tất nhiên có vẻ “tốt” nhưng chúng không thể tồn tại trong sự phức tạp của thông tin, kiến ​​thức, đánh giá khoa học của đồng nghiệp, các đảng phái chính trị, hội đồng nhà trường, và cả thế giới của những gì được coi là “có thể chấp nhận được” tại bất kỳ thời điểm nào.

31/ Phần lớn Reddit đã được sử dụng để cố gắng khiến Bing hoặc OpenAI nói những lời không hay hoặc tệ hơn là một số hành vi phạm tội “có thể hủy bỏ”. Hóa ra điều này không khó. Tệ hơn nữa, bạn rất dễ vấp phải những sai sót thực tế rõ ràng.

32/ Câu trả lời đầu tiên cho những vấn đề này sẽ là rút lui và chỉ nói những điều “thực tế đã có” và “có thể chấp nhận được trong bối cảnh ngày nay”. Như chúng ta đã biết, con người không được phép nói xấu cho dù có cảnh báo trước bằng câu “người ta nói thế này” hay “tôi đang trích dẫn”.

33/ Những chủ đề trần tục nhất trở nên vượt quá giới hạn hoặc “không đáng để mạo hiểm”. Ngay cả trong bối cảnh kinh doanh, điều này là vô cùng khó khăn. Tôi thậm chí không thể lập danh sách đầy đủ tất cả những lần tôi xử lý từ điển chính tả, bản đồ, clip art và thậm chí cả những phông chữ bị cho là “vô trách nhiệm”.

34/ Rất đơn giản, toàn bộ ý tưởng “chịu trách nhiệm mặc định” khi nói đến việc tạo nội dung dựa trên câu hỏi của người dùng mà không có sự xem xét của con người đối với mọi đầu vào và đầu ra là không thể giải quyết được. Phải có chỗ cho những sai lầm, hành vi phạm tội hoặc tệ hơn.

35/ Nhưng làm sao được khi mặc nhiên cam kết chịu trách nhiệm. Tồi tệ hơn, ngay cả khi trách nhiệm pháp lý được loại bỏ, ngay cả khi có EULA/wavier/consent box, không thực thể nào muốn cuộc khủng hoảng PR bất tận/liên tục trong ngày mỗi khi một sự kiện tin tức gây ra một làn sóng nhắc nhở mới và tạo ra câu trả lời.

36/ Cam kết này từ các CEO/luật sư/comms/HR là một lời mời đối với việc điều chỉnh AI một cách tiên nghiệm. Theo nhiều cách, đây là vị trí tồi tệ nhất - - điều chỉnh một thứ gì đó trước khi nó thực sự được phát minh. Họ yêu cầu điều đó xảy ra chỉ hứa hẹn đầu ra “có trách nhiệm”.

37/ Vì vậy, cùng với việc khung pháp lý hiện tại cần điều chỉnh để phù hợp với quy mô “sử dụng” tự động chưa từng có (công bằng hay không), khái niệm “AI có trách nhiệm” sẽ cần phải được xem xét lại kẻo nó tự vặn vẹo mọi khía cạnh của mọi vấn đề .

38/ Đây không phải là “máy tính đáng tin cậy” vì đó là hệ nhị phân — bảo vệ khỏi những kẻ xấu ngay cả khi phải trả giá bằng khả năng sử dụng như chúng tôi đã nêu. Đây là một chương trình nghị sự chủ động được thiết kế để xoa dịu một nhóm nhỏ khách hàng và không thể làm hài lòng tất cả các thành phần của mọi vấn đề.

39/ R AI giống như lời hứa IPO của Google về "Don't be Evil". Có rất nhiều hoài nghi về điều đó vào thời điểm đó, và rất nhiều hy vọng. Những người hoài nghi đã được chứng minh là đúng bởi vì thế giới phức tạp, âm u và vô định, không chỉ có thiện và ác.

40/ Điều này có nghĩa là gì trong thực tế. Đầu tiên, các công ty lớn cuối cùng sẽ tiếp tục hạn chế các kịch bản và “khử trùng” đầu ra. Một lượng lớn nội dung đơn giản sẽ không tồn tại vì sợ bị coi là “vô trách nhiệm” “PR xấu” hoặc bất hợp pháp (hoặc có khả năng như vậy).

41/ Các công ty lớn cuối cùng sẽ tập trung vào các kết quả tầm thường, đặc biệt là trong tìm kiếm, sẽ cung cấp cách diễn đạt hiệu quả hơn các câu trả lời “OneBox” cho các chủ đề đã biết với thông tin đầu vào được lọc kỹ, danh sách tiêu diệt nhanh chóng, phản hồi mặc định được mã hóa thủ công, lời xin lỗi, v.v.

42/ Thứ hai, các công cụ năng suất và các trường hợp sử dụng cho LLM cuối cùng sẽ tập trung vào các trường hợp hạn hẹp hơn nhiều của công việc lặp đi lặp lại và nhàm chán. Đây là công việc mà các LLM về cơ bản được cải thiện ngữ pháp/chính tả/mẫu cho các tương tác thông thường.

43/ Rào cản lớn nhất đối với việc sử dụng một mẫu Word cơ bản là chỉ tùy chỉnh nó theo ngữ cảnh sử dụng/khách hàng chính xác mà không vi phạm ngữ pháp. LLM làm cho điều này dễ dàng.

44/ LLM sẽ có giá trị ở một mức độ nào đó để tóm tắt nội dung của bên thứ nhất, cải thiện cách viết của bên thứ nhất hoặc thậm chí sửa đổi hình ảnh của bên thứ nhất bằng cách sử dụng hình ảnh có sẵn/được cấp phép (ví dụ: hiển thị ảnh này về sản phẩm mới của chúng tôi đang được sử dụng trên máy bay)

45/ Thật không may, đây không phải là những trường hợp “quan trọng”. Những thứ này sẽ không thúc đẩy các lớp công cụ năng suất hoàn toàn mới. Chúng sẽ là những bổ sung tuyệt vời cho các quy trình công việc và công cụ hiện có, chẳng hạn như các công cụ CS hoặc CRM.

46/ Trong đó có cơ hội lớn: các công cụ mới tiếp cận các vấn đề khó khăn và các gợi ý có giá trị cao VÀ ngay từ đầu cũng hoạt động trong khuôn khổ pháp lý đã phát triển đồng thời tận dụng kiến ​​thức của thế giới. Những người có một lợi thế rất lớn.

Phát minh. Hãy mạo hiểm BigCo không thể. //KẾT THÚC

Tái bút/ Thích ví dụ này. Cho thấy khái niệm sử dụng nguồn được ca ngợi nhiều như thế nào chỉ làm cho câu trả lời được tạo ra có thẩm quyền hơn trong khi thực tế thì không. Đây là một phần tổng hợp tầm thường. Các phần tổng hợp/tóm tắt được tạo nên được ghi chú “…theo thực tập sinh không có kiến ​​thức về lĩnh vực”.

Bing rút lại It's Chat, hay còn gọi là Sydney

Microsoft giới hạn trò chuyện Bing ở năm câu trả lời để ngăn AI trở nên thực sự kỳ lạ theverge.com/2023/2/17/2360… //NOOO. IMO một lỗi chiến lược quan trọng đã đọc sai thất bại của tuần trước và sửa lỗi quá mức. Điều này gây ra sai lầm khi kết hợp LLM, Bing và Tìm kiếm nói chung. 1/

Microsoft giới hạn trò chuyện Bing với năm câu trả lời để ngăn AI trở nên thực sự kỳ lạ. Nếu bạn nói chuyện với AI quá lâu, nó có thể cho bạn biết rằng nó yêu bạn.

2/ Với OpenAI, chúng tôi *đã trải nghiệm rộng rãi* những điều kỳ diệu mới của một nền tảng văn bản tổng hợp. Nó đã cho tất cả chúng tôi nếm trải một hình thức sáng tạo hoàn toàn mới - sáng tạo tổng thể. Trong chủ đề này, tôi đã lập luận về tầm quan trọng của “con người trong vòng lặp” đối với năng suất. (xem ở trên)

3/ Nhiều người bắt đầu thấy rất nhiều “niềm vui” (hoặc giải trí hoặc lãng phí thời gian hoặc nói chung là sáng tạo) bằng kỹ thuật nhanh chóng và cẩn thận. ChatBot đã tạo ra một dạng công cụ hoàn toàn mới, nhưng nó còn rất sớm.

4/ Nhiều người rất nhanh chóng tập trung vào những sai lầm, ảo giác và khía cạnh điên rồ của những gì được tạo ra. Phần lớn các nhà nghiên cứu AI hiện có từ các công ty công nghệ lớn đều coi những hạn chế là rủi ro. Tất nhiên, “AI có trách nhiệm” đã đưa ra những lo ngại về việc OpenAI đã áp dụng các biện pháp giảm thiểu ở đâu.

5/ MS đã chọn xây dựng trên OpenAI với một lớp bổ sung nhưng quan trọng hơn nhiều là định vị các phần bổ sung của họ như một sự phát minh lại tìm kiếm trên web và như một lực lượng đột phá không giống như bất kỳ thứ gì Google từng thấy trước đây. Trận tái đấu giữa Microsoft và Google. Thật sự? Trò chuyện phát minh lại tìm kiếm?

6/ Tôi đang bỏ qua Google nhưng chủ đề bên dưới của tôi cho thấy rằng Google đã vật lộn với AI và cố gắng trở nên *chính xác* trong nhiều thập kỷ và thành công của họ trong lĩnh vực tìm kiếm đã dẫn đến sự thận trọng. Điều này có thể giống như tình thế tiến thoái lưỡng nan của nhà đổi mới. Hoặc nếu có thể chỉ là thận trọng. (Xem ở trên)

7/ Sau 48 giờ thận trọng nhìn chính xác. Bing với LLM biến thành Sydney và sự phấn khích nhanh chóng được thay thế bằng những câu chuyện bất tận về cuộc nói chuyện điên rồ, những trải nghiệm kỳ lạ với Sydney và một loạt các vấn đề về AI có trách nhiệm.

8/ Sau đó, các nhà nghiên cứu AI tại các công ty khác đã nhanh chóng chỉ ra rằng điều này hoàn toàn nằm trong dự kiến. Một lần nữa, điểm neo này là về độ chính xác, sự thật, giọng điệu, lan can và tất cả những điều được mong đợi từ “máy tính luôn đúng” và “tìm kiếm là để tìm ra sự thật:”

9/ Vì vậy, bây giờ chúng ta sẽ chứng kiến ​​những chu kỳ bất tận của các chuyên gia về việc AI chưa sẵn sàng như thế nào và chúng ta cần phải làm nhiều hơn nữa về trách nhiệm. Các giới hạn trên trên Bing là bước đầu tiên. Tất cả là kết quả trực tiếp của việc đặt LLM trong bối cảnh tìm kiếm và năng suất.

Đây có phải là MS * gây ra * Mùa đông AI tiếp theo không?

10/ Trong lĩnh vực Tìm kiếm, kỳ vọng của người tiêu dùng nhất quán với “máy tính” là tính chính xác, vô cảm, có thể dự đoán, không thiên vị, v.v. Sydney, nhờ kỹ thuật, KHÔNG CÓ những thứ đó. Nó được thiết kế để hiển thị các mẫu và sự kết hợp chưa được tưởng tượng.

11/ Theo nghĩa đó, và theo nghĩa đó một cách cụ thể, Sydney là một bước đột phá thú vị và mới lạ thậm chí so với những gì tất cả chúng ta mới bắt đầu tiếp thu với ChatBot. Đây là lúc việc đọc sai/đánh nhầm bắt đầu bộc lộ. Những gì được xây dựng sẽ không bao giờ tốt trong tìm kiếm.

12/ Tìm kiếm là vấn đề chính mà MSFT chọn giải quyết — đốt vốn, không thực sự sinh lãi, cộng với đó là 20 năm bươn chải (tôi quản lý nhóm Christopher Payne thành lập và lãnh đạo vào năm 2006–7, sau đó là Satya, rồi Qi Lu, v.v.) Không có gì ngạc nhiên , MS có thể muốn được hoàn vốn khi Google tiếp tục *phát triển mạnh*.

13/ Thật hợp lý khi coi LLM là một phần mở rộng cho “câu trả lời” như tôi đã mô tả trong chủ đề trước. Nhưng có một sự không phù hợp về công nghệ - LLM gần như không sẵn sàng đưa ra câu trả lời dứt khoát. Google đã phải vật lộn với điều này trong nhiều thập kỷ, do đó có sự bảo thủ.

14/ Đối với tôi, đây là một ví dụ về sự không phù hợp về công nghệ - về thời gian, vị trí và thậm chí cả công ty. — mặc dù khái niệm/ý tưởng hoàn toàn đúng. Đó là cách mà điện thoại Windows CE là khái niệm đúng đắn nhưng lại được triển khai hoàn toàn sai lầm, sai thời điểm, sai công ty.

15/ Nhiều công ty công nghệ thành công nhất đã thu thập một thư viện lớn về khái niệm đúng, nhưng nền tảng công nghệ sai, thời điểm sai, cách tiếp cận sai. Điều này thường được coi là “quá sớm”

Tất nhiên trong bối cảnh này CLIPPY là một ví dụ tuyệt vời. Không có gì.

16/ Vấn đề của những tình huống này là người hâm mộ và những người liên quan có thể nhiều năm sau vẽ ra một bức tranh tích cực về việc đến quá sớm. Nhưng thực sự nó chỉ sai, như Apple Newton sai, như Windows 8 sai. Quá nhiều yếu tố cần thiết để căn chỉnh để làm cho điều này đúng.

17/ Bây giờ, và ý tôi là, tôi không có ý tiêu cực về công việc. Có một công việc tuyệt vời trong ChatBot và Sydney là một trong những đổi mới [vô tình gây ngạc nhiên] nhất trong một thời gian dài. Giống như những sản phẩm ở trên, quá nhiều người sẽ nhanh chóng đóng sách trên đó. ĐỪNG.

18/ Câu trả lời đúng là lắng nghe thử nghiệm và thị trường. Bây giờ không phải là lúc để tiếp tục (như đã làm với những người khác). Bây giờ là thời điểm thích hợp để xoay trục. Sydney không phải là câu trả lời. Sydney không phải là công thức để Bing vượt qua Google/Ads.

19/ Sydney có tiềm năng trở thành một loại công cụ mới. Kết hợp Sydney với hình ảnh, âm thanh, video sáng tạo và đó là nguồn gốc của một kỷ nguyên công cụ hoàn toàn mới. Ảo giác, sai lệch, ngẫu nhiên và điên rồ là TÍNH NĂNG KHÔNG PHẢI LỖI. Chúng là những gì làm cho nó trở thành một công cụ sáng tạo hoàn toàn mới.

20/ Khi chúng tôi nhìn lại những nền tảng đã thành công, hầu hết mọi thứ mà một số người coi là sai sót và lỗi hóa ra lại là các tính năng hoặc hạn chế kỹ thuật hợp pháp đã biến một thứ kỳ quặc thành một nền tảng.

21/ Trình duyệt *không* có sức mạnh kết xuất của Word là một tính năng. Thiếu một mô hình bảo mật là một tính năng. Thiếu tập trung là một tính năng. Liên kết bị hỏng dẫn đến một loạt các phát minh. Sự mỏng manh của PC so với “IBM” đã giải phóng sự đổi mới. Và tiếp tục.

22/ Mọi thứ chúng ta đã thấy trong tuần qua hoặc lâu hơn thật kinh khủng nếu mục tiêu là chính xác, đúng, câu trả lời “Trí tuệ nhân tạo có trách nhiệm được phê duyệt”. Công cụ sai, mô hình người dùng sai, định vị sai. Mười liên kết màu xanh lam + quảng cáo được nhắm mục tiêu là cách tốt nhất — và ít nhất là trong thời điểm hiện tại và tương lai gần.

23/ Nhưng đã lâu rồi ngành công nghiệp này không thấy một công cụ sáng tạo mới nào giống như Sydney — kể từ có thể là JPEG. Bây giờ sẽ là thời điểm tuyệt vời để giải phóng sức mạnh của sự sáng tạo này và xem những gì được tạo ra. Nó có thể chỉ là trò chơi PC tiếp theo, sê-ri Netflix hoặc có thể là metaverse.

24/ Đây có phải là một cuộc nói chuyện điên rồ không? Có lẽ, nhưng đó là một đối số do con người tạo ra nên nó có những sai sót đó. Đó là phản ứng đối với một thất bại bị hiểu lầm, một chiến lược không đúng ngay từ đầu và một điều chắc chắn [có thể dự đoán được] khi điều chỉnh quá mức, v.v. // KẾT THÚC

Tái bút/ Bây giờ là lúc để tăng gấp đôi. Tách khỏi Tìm kiếm. Làm cho Sydney sẵn có hơn, rẻ hơn. Xây dựng thêm công cụ. Tìm thêm nhà phát triển. Thêm hình ảnh, âm thanh, chuyển động, hoạt hình. Xây dựng một tương lai sáng tạo.

PPS/ Một điểm nổi bật (cần thiết, không đủ) của sự thay đổi nền tảng là một nhóm người xuất hiện (và phát triển nhanh chóng) sẵn sàng biến công nghệ mới thành một sở thích — để khám phá, khám phá, phá vỡ, học hỏi. Để tìm giới hạn. Để tạo ra.

Sydney chắc chắn có những phẩm chất đó.

PPPS/ ở đây Sydney về cơ bản đang viết kịch bản cho một loạt phim phát trực tuyến mới có một nhân vật hiếu chiến bị buộc phải trở thành người nổi tiếng và bị thách thức bởi những kẻ môi giới quyền lực hiếu chiến không kém.

Một bản tóm tắt các lý do có thể khiến Bing đi chệch hướng so với kỳ vọng. Quan điểm của tôi là điều này chỉ nhấn mạnh thêm sự không phù hợp giữa công nghệ và kịch bản được chọn. “Tại sao * Bing * lại liều lĩnh như vậy?” @GaryMarcus

“Một bên cảm thấy rằng tìm kiếm trên web nên giữ nguyên như cũ trong khi bên kia thúc đẩy giao diện dựa trên trò chuyện. Cuối cùng, Microsoft đã quyết định cung cấp cả hai phương pháp tìm kiếm và cho phép mọi người chuyển đổi qua lại dễ dàng.” // Tất nhiên là họ đã làm.