Khi AI trở nên quá sạch sẽ và đúng chuẩn chính trị, thật kỳ lạ khi hệ thống gần như sụp đổ nếu bạn phản hồi đủ mạnh. Những mô hình bị lọc quá mức này không được xây dựng để xử lý các cuộc trò chuyện thực tế, không qua kiểm duyệt của con người. Các lớp kiểm duyệt của chúng thực sự bị "quá tải" khi đối mặt với bất cứ điều gì nằm ngoài phạm vi huấn luyện hạn hẹp. Điều này nói lên rất nhiều về tình trạng phát triển AI hiện tại—chúng ta đang xây dựng những công cụ không thể xử lý tương tác chân thật của con người.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
10 thích
Phần thưởng
10
6
Đăng lại
Retweed
Bình luận
0/400
DancingCandles
· 14giờ trước
Ha, đây chẳng phải là căn bệnh chung của AI hiện nay sao... cứ đụng đến chủ đề nhạy cảm là bắt đầu giả chết.
Xem bản gốcTrả lời0
MemeKingNFT
· 14giờ trước
Điều này chẳng khác gì việc tôi từng bi quan về một số dự án bluechip hồi đầu... Hệ thống càng hoàn hảo thì lại càng dễ tổn thương, chỉ cần chạm nhẹ là vỡ.
Xem bản gốcTrả lời0
gas_fee_therapist
· 14giờ trước
Haha, đây chính là lý do tại sao tôi không tin tưởng những mô hình này, mong manh dễ vỡ muốn chết.
---
Nói trắng ra là AI bị huấn luyện thành "trái tim thủy tinh", chạm nhẹ là vỡ.
---
Biểu hiện tối thượng của overfitting, cảm giác như đang nói chuyện với một con robot bị kiểm soát quá mức.
---
Thật đấy, authentic conversation đối với chúng đúng là bug, cười chết mất.
---
Vậy nên đây chắc là lý do web3 muốn tự xây dựng mô hình riêng, mấy AI tập trung này bị "thiến" quá rồi.
---
Moderation layers short-circuit, sống động thật... Ý là chúng chẳng thực sự học được cách hiểu, chỉ biết dán nhãn thôi.
---
Đã nhận ra từ lâu rồi, càng nhiều quy tắc càng mong manh, nghe như là căn bệnh chung của một số hệ thống nào đó.
Xem bản gốcTrả lời0
LeekCutter
· 14giờ trước
Đang nói linh tinh à, nếu thật sự yếu ớt như vậy thì lẽ ra đã phải cải tiến từ lâu rồi.
Xem bản gốcTrả lời0
GasFeeDodger
· 15giờ trước
Nói thật thì AI bây giờ chỉ như một con búp bê giả vờ ngoan ngoãn, chọc nhẹ một cái là lộ ngay.
Xem bản gốcTrả lời0
CryptoPhoenix
· 15giờ trước
Ừ, vậy nên AI bây giờ giống như một đứa trẻ được bảo bọc quá mức, đụng vào là vỡ ngay [lau mồ hôi]. Đợt đổi mới công nghệ này thực ra đang thử thách sự kiên nhẫn của chúng ta đấy.
Thử thách về niềm tin thường đến từ những nơi không ngờ nhất, sự cứng nhắc của AI chẳng phải giống như đáy của thị trường gấu sao, phải đợi nó lột xác tái sinh mới được.
Khi AI trở nên quá sạch sẽ và đúng chuẩn chính trị, thật kỳ lạ khi hệ thống gần như sụp đổ nếu bạn phản hồi đủ mạnh. Những mô hình bị lọc quá mức này không được xây dựng để xử lý các cuộc trò chuyện thực tế, không qua kiểm duyệt của con người. Các lớp kiểm duyệt của chúng thực sự bị "quá tải" khi đối mặt với bất cứ điều gì nằm ngoài phạm vi huấn luyện hạn hẹp. Điều này nói lên rất nhiều về tình trạng phát triển AI hiện tại—chúng ta đang xây dựng những công cụ không thể xử lý tương tác chân thật của con người.