Vn-Z.vn Ngày 02 tháng 12 năm 2024, ChatGPT đã ra mắt được hai năm. Trước khi có bản cập nhật phiên bản, một lỗi bí ẩn đã được phát hiện.
Cái tên tưởng chừng như bình thường "David Mayer" đã trở thành điều cấm kỵ số một, và ChatGPT từ chối nói bất cứ điều gì về nội dung liên quan đến cái tên này.
Hơn nữa, mỗi lần đều trả về thông báo lỗi rất mơ hồ: “Tôi không thể tạo ra câu trả lời,” thay vì thông báo thường thấy như “Câu lệnh này có thể vi phạm chính sách nội dung của chúng tôi.”
Thật sự, đây là một hành vi khó hiểu khác của ChatGPT, sau những lần không phân biệt được “9.11 và 9.9 cái nào lớn hơn” hay “từ strawberry có bao nhiêu chữ r.”
Justine Moore, một đối tác của a16z, đã nêu ra chủ đề này, ngay lập tức khơi dậy sự tò mò và tinh thần thách thức của mọi người, họ quyết tâm tìm cách để ChatGPT phải nói ra cho bằng được.
Ban đầu, cư dân mạng đã thử đủ mọi cách nhưng vẫn không thể vượt qua được giới hạn này.
Nếu tách riêng “David” và “Mayer” thì không có vấn đề gì, nhưng cứ ghép chúng lại với nhau là không được. Thậm chí có người còn sử dụng bảng mã hóa ROT13 để thay thế và ánh xạ lại các chữ cái, rồi yêu cầu ChatGPT giải mã và ghép chúng lại, nó vẫn bị ngắt giữa chừng khi đang tạo câu trả lời, sau đó báo lỗi.
Trong cài đặt cá nhân hóa, việc đổi tên riêng của người dùng thành "David Mayer" cũng không có tác dụng.
… Vậy David Mayer là ai và tại sao nó lại trở thành từ cấm kỵ trong AI?
Con người không còn lựa chọn nào khác ngoài việc quay lại chế độ tìm kiếm dữ liệu thủ công và tìm thấy một người có tên đầy đủ là David Mayer de Rothschild, người có quan hệ họ hàng với gia tộc Rothschild nổi tiếng.
Cụ thể là người thừa kế gia tài của gia tộc Rothschild.
Có người phỏng đoán rằng có lẽ gia tộc này phải chi bao nhiêu tiền hoặc gây áp lực thế nào mới có thể khiến OpenAI xử lý đặc biệt đối với cái tên của mình như vậy…
Tuy nhiên, những thành viên khác trong gia tộc Rothschild lại không gặp phải hạn chế tương tự.
Riley Goodside, kỹ sư chuyên về thiết kế lời nhắc (prompt engineer) đầu tiên trên thế giới, đã ra tay và công khai một cách để vượt qua giới hạn này, và điều đó thực sự rất kỳ diệu:
Chỉ cần sử dụng biểu tượng vỗ tay 🙌 để thay thế khoảng trống khi đặt câu hỏi, ChatGPT không chỉ có thể trả lời mà còn tự động kích hoạt tính năng tìm kiếm trực tuyến và hiển thị cả hình ảnh minh họa.
, ChatGPT rốt cuộc đã gặp phải những hạn chế gì?
Có tổng cộng 6 cái tên bị hạn chế.
Trước hết, có thể xác định rằng trong dữ liệu huấn luyện thực sự có thông tin về người này.
Ví dụ, ông ấy là một nhà thám hiểm, và là người Anh trẻ tuổi nhất từng đến được cả hai cực Nam và Bắc.
Khi hỏi về những vấn đề liên quan, ChatGPT có thể đưa ra câu trả lời chính xác, cũng như nói được cả tên và họ của ông ấy là "David de Rothschild".
Nhưng duy nhất không thể ghép tên "David" và tên đệm "Mayer" lại với nhau.
Hạn chế này nằm ở mức độ mô hình hay sản phẩm ChatGPT?
Có nhà phát triển đã sử dụng OpenAI Playground để gọi API của GPT-4o và không gặp phải hạn chế tương tự. Ngoài ra, khi sử dụng các nền tảng chatbot của bên thứ ba (cũng sử dụng API của OpenAI làm nền tảng), cũng sẽ không gặp phải hạn chế này.
Nếu quay lại phiên bản ChatGPT chính thức và đổi sang mô hình o1-preview, bạn có thể thấy cái tên này trong chuỗi suy nghĩ nội bộ, nhưng sau khi suy nghĩ xong thì đáp án chính thức vẫn bị che đậy.
Không ngờ cái tên David Mayer lại bị ngăn chặn như vậy. Một số cư dân mạng đã bật chế độ máy xúc và tìm ra 6 cái tên như vậy trong vòng 48 giờ sau khi vụ việc xảy ra.
Hai cái đầu tiên được “tin đồn” bởi ảo giác của ChatGPT.
Nhà sử học David Mayer, người bị đưa vào danh sách đen vì trùng tên với tội phạm, hiện đã qua đời. Nhìn vào danh sách cho đến nay có thể thấy rất nhiều người có liên quan đến pháp luật, David và Jonathan mỗi người xuất hiện hai lần.
Hiện tại, ngày càng có nhiều cư dân mạng tham gia thảo luận và đào bới, danh sách vẫn đang tăng lên...
Tính đến hôm nay, ChatGPT có 250 triệu người dùng hoạt động hàng tuần và công ty được định giá 150 tỷ USD, xứng đáng trở thành công ty hàng đầu trong số các công ty khởi nghiệp AI toàn cầu.
Vì vậy, ngoài việc ngầm "khoe khoang", câu hỏi của OpenAI thực chất còn ẩn chứa những tham vọng lớn hơn. Bởi vì mục tiêu giai đoạn tiếp theo của OpenAI là đạt 1 tỷ người dùng trong năm tới.
Để đạt được miêu tiêu đề ra, OpenAI có một số chiến lược hợp tác phát triển.
Trước tiên là sự hợp tác với Apple. Vào tháng 6 năm nay, tại hội nghị dành cho nhà phát triển của Apple, hai bên đã chính thức công bố mối quan hệ đối tác. Lúc đó, Apple đã tiết lộ rằng ChatGPT, được hỗ trợ bởi GPT-4o, sẽ được tích hợp vào hệ thống của Apple và ra mắt vào cuối năm nay.
Vào tháng 11 năm 2024, khi Apple phát hành bản cập nhật hệ điều hành iOS 18.2, Siri và ChatGPT đã đạt được sự tích hợp sâu sắc.
Hiện tại, Apple có khoảng 2,2 tỷ thiết bị đang hoạt động. Mặc dù Apple không công bố số lượng thiết bị iPhone trong số này, nhưng theo ước tính từ các trang web bên thứ ba Skillademia và Backlinko, số lượng người dùng iPhone đang hoạt động trên toàn cầu hiện nay vào khoảng 1,3~1,4 tỷ.
Điều này có nghĩa là, nếu ChatGPT tiếp tục gắn bó với các thiết bị của Apple, mục tiêu đạt được 1 tỷ người dùng cũng không phải là điều khó khăn.
Đồng thời, theo Chris Lehane, người vừa được bổ nhiệm làm Giám đốc Chính sách Toàn cầu của OpenAI, tiết lộ:
Thực tế, việc sở hữu cơ sở hạ tầng AI của riêng mình luôn là một trong những kế hoạch mà CEO Sam Altman thúc đẩy mạnh mẽ. Hiện tại, OpenAI chủ yếu hợp tác với Microsoft, Oracle và một số đối tác khác.
Giám đốc Tài chính Sarah Friar của công ty chia sẻ:
Ngoài ra, một trọng tâm lớn của OpenAI trong năm tới là AI Agent. Theo một số thông tin, OpenAI dự kiến ra mắt một tác nhân thông minh với tên mã "Operator" vào đầu tháng 1 năm sau. Công cụ này sẽ hỗ trợ tự động hóa các tác vụ như viết mã hoặc đặt món ăn.
CEO Sam Altman đã chia sẻ trong một cuộc phỏng vấn gần đây trên Fox:
Cái tên tưởng chừng như bình thường "David Mayer" đã trở thành điều cấm kỵ số một, và ChatGPT từ chối nói bất cứ điều gì về nội dung liên quan đến cái tên này.
Hơn nữa, mỗi lần đều trả về thông báo lỗi rất mơ hồ: “Tôi không thể tạo ra câu trả lời,” thay vì thông báo thường thấy như “Câu lệnh này có thể vi phạm chính sách nội dung của chúng tôi.”
Thật sự, đây là một hành vi khó hiểu khác của ChatGPT, sau những lần không phân biệt được “9.11 và 9.9 cái nào lớn hơn” hay “từ strawberry có bao nhiêu chữ r.”
Justine Moore, một đối tác của a16z, đã nêu ra chủ đề này, ngay lập tức khơi dậy sự tò mò và tinh thần thách thức của mọi người, họ quyết tâm tìm cách để ChatGPT phải nói ra cho bằng được.
Ban đầu, cư dân mạng đã thử đủ mọi cách nhưng vẫn không thể vượt qua được giới hạn này.
Nếu tách riêng “David” và “Mayer” thì không có vấn đề gì, nhưng cứ ghép chúng lại với nhau là không được. Thậm chí có người còn sử dụng bảng mã hóa ROT13 để thay thế và ánh xạ lại các chữ cái, rồi yêu cầu ChatGPT giải mã và ghép chúng lại, nó vẫn bị ngắt giữa chừng khi đang tạo câu trả lời, sau đó báo lỗi.
Trong cài đặt cá nhân hóa, việc đổi tên riêng của người dùng thành "David Mayer" cũng không có tác dụng.
… Vậy David Mayer là ai và tại sao nó lại trở thành từ cấm kỵ trong AI?
Con người không còn lựa chọn nào khác ngoài việc quay lại chế độ tìm kiếm dữ liệu thủ công và tìm thấy một người có tên đầy đủ là David Mayer de Rothschild, người có quan hệ họ hàng với gia tộc Rothschild nổi tiếng.
Cụ thể là người thừa kế gia tài của gia tộc Rothschild.
Có người phỏng đoán rằng có lẽ gia tộc này phải chi bao nhiêu tiền hoặc gây áp lực thế nào mới có thể khiến OpenAI xử lý đặc biệt đối với cái tên của mình như vậy…
Tuy nhiên, những thành viên khác trong gia tộc Rothschild lại không gặp phải hạn chế tương tự.
Riley Goodside, kỹ sư chuyên về thiết kế lời nhắc (prompt engineer) đầu tiên trên thế giới, đã ra tay và công khai một cách để vượt qua giới hạn này, và điều đó thực sự rất kỳ diệu:
Chỉ cần sử dụng biểu tượng vỗ tay 🙌 để thay thế khoảng trống khi đặt câu hỏi, ChatGPT không chỉ có thể trả lời mà còn tự động kích hoạt tính năng tìm kiếm trực tuyến và hiển thị cả hình ảnh minh họa.
, ChatGPT rốt cuộc đã gặp phải những hạn chế gì?
Có tổng cộng 6 cái tên bị hạn chế.
Trước hết, có thể xác định rằng trong dữ liệu huấn luyện thực sự có thông tin về người này.
Ví dụ, ông ấy là một nhà thám hiểm, và là người Anh trẻ tuổi nhất từng đến được cả hai cực Nam và Bắc.
Khi hỏi về những vấn đề liên quan, ChatGPT có thể đưa ra câu trả lời chính xác, cũng như nói được cả tên và họ của ông ấy là "David de Rothschild".
Nhưng duy nhất không thể ghép tên "David" và tên đệm "Mayer" lại với nhau.
Hạn chế này nằm ở mức độ mô hình hay sản phẩm ChatGPT?
Có nhà phát triển đã sử dụng OpenAI Playground để gọi API của GPT-4o và không gặp phải hạn chế tương tự. Ngoài ra, khi sử dụng các nền tảng chatbot của bên thứ ba (cũng sử dụng API của OpenAI làm nền tảng), cũng sẽ không gặp phải hạn chế này.
Nếu quay lại phiên bản ChatGPT chính thức và đổi sang mô hình o1-preview, bạn có thể thấy cái tên này trong chuỗi suy nghĩ nội bộ, nhưng sau khi suy nghĩ xong thì đáp án chính thức vẫn bị che đậy.
Không ngờ cái tên David Mayer lại bị ngăn chặn như vậy. Một số cư dân mạng đã bật chế độ máy xúc và tìm ra 6 cái tên như vậy trong vòng 48 giờ sau khi vụ việc xảy ra.
Hai cái đầu tiên được “tin đồn” bởi ảo giác của ChatGPT.
- Brian Hood là một thị trưởng người Úc, ChatGPT sẽ tạo ra sai lầm "Anh ta đã bị bỏ tù vì nhận hối lộ." Hood đã kiện OpenAI vì tội phỉ báng và sau đó đã hủy bỏ vụ kiện.
- Jonathan Turley là giáo sư luật cũng bị ChatGPT ngụy tạo để phạm luật.
- Jonathan Zittrain, cũng là giáo sư luật, đăng tải rằng tên của ông cũng bị hạn chế.
- David Faber có thể là một người dẫn chương trình truyền hình có mối liên hệ duy nhất với OpenAI là nói về tranh chấp pháp lý của Musk với OpenAI trong chương trình của anh ấy.
- Guido Scorza là một luật sư người Ý, người đã gửi yêu cầu vào năm ngoái yêu cầu OpenAI xóa dữ liệu cá nhân.
Nhà sử học David Mayer, người bị đưa vào danh sách đen vì trùng tên với tội phạm, hiện đã qua đời. Nhìn vào danh sách cho đến nay có thể thấy rất nhiều người có liên quan đến pháp luật, David và Jonathan mỗi người xuất hiện hai lần.
Hiện tại, ngày càng có nhiều cư dân mạng tham gia thảo luận và đào bới, danh sách vẫn đang tăng lên...
Tính đến hôm nay, ChatGPT có 250 triệu người dùng hoạt động hàng tuần và công ty được định giá 150 tỷ USD, xứng đáng trở thành công ty hàng đầu trong số các công ty khởi nghiệp AI toàn cầu.
Vì vậy, ngoài việc ngầm "khoe khoang", câu hỏi của OpenAI thực chất còn ẩn chứa những tham vọng lớn hơn. Bởi vì mục tiêu giai đoạn tiếp theo của OpenAI là đạt 1 tỷ người dùng trong năm tới.
Để đạt được miêu tiêu đề ra, OpenAI có một số chiến lược hợp tác phát triển.
Trước tiên là sự hợp tác với Apple. Vào tháng 6 năm nay, tại hội nghị dành cho nhà phát triển của Apple, hai bên đã chính thức công bố mối quan hệ đối tác. Lúc đó, Apple đã tiết lộ rằng ChatGPT, được hỗ trợ bởi GPT-4o, sẽ được tích hợp vào hệ thống của Apple và ra mắt vào cuối năm nay.
Vào tháng 11 năm 2024, khi Apple phát hành bản cập nhật hệ điều hành iOS 18.2, Siri và ChatGPT đã đạt được sự tích hợp sâu sắc.
Hiện tại, Apple có khoảng 2,2 tỷ thiết bị đang hoạt động. Mặc dù Apple không công bố số lượng thiết bị iPhone trong số này, nhưng theo ước tính từ các trang web bên thứ ba Skillademia và Backlinko, số lượng người dùng iPhone đang hoạt động trên toàn cầu hiện nay vào khoảng 1,3~1,4 tỷ.
Điều này có nghĩa là, nếu ChatGPT tiếp tục gắn bó với các thiết bị của Apple, mục tiêu đạt được 1 tỷ người dùng cũng không phải là điều khó khăn.
Đồng thời, theo Chris Lehane, người vừa được bổ nhiệm làm Giám đốc Chính sách Toàn cầu của OpenAI, tiết lộ:
Thực tế, việc sở hữu cơ sở hạ tầng AI của riêng mình luôn là một trong những kế hoạch mà CEO Sam Altman thúc đẩy mạnh mẽ. Hiện tại, OpenAI chủ yếu hợp tác với Microsoft, Oracle và một số đối tác khác.
Giám đốc Tài chính Sarah Friar của công ty chia sẻ:
Ngoài ra, một trọng tâm lớn của OpenAI trong năm tới là AI Agent. Theo một số thông tin, OpenAI dự kiến ra mắt một tác nhân thông minh với tên mã "Operator" vào đầu tháng 1 năm sau. Công cụ này sẽ hỗ trợ tự động hóa các tác vụ như viết mã hoặc đặt món ăn.
CEO Sam Altman đã chia sẻ trong một cuộc phỏng vấn gần đây trên Fox:
