OpenAI lặng lẽ thay đổi "giá trị": đừng tham gia vào tất cả các AGI

Nguồn: Qubits

Nguồn hình ảnh: Được tạo bởi Unbounded AI

OpenAI, lặng lẽ thay đổi Giá trị cốt lõi.

Trước đây, sáu giá trị cốt lõi được liệt kê trên trang web chính thức của nó như sau:

Táo bạo, chu đáo, không phô trương, hướng đến tác động, hợp tác, định hướng tăng trưởng.

Ngày nay, nếu bạn duyệt trang web chính thức, giá trị cốt lõi của nó đã thay đổi đáng kể.

Nó không chỉ được giảm từ “Big Six” xuống “Big Five”, mà ngay cả nội dung cũng đã được thay thế:

tập trung AGI, Mãnh liệt và vụn vặt, Quy mô, Làm điều gì đó mà mọi người yêu thích, Tinh thần đồng đội.

Và “AGI focus” nổi bật ở đầu danh sách các giá trị cốt lõi:

Chúng tôi cam kết xây dựng AGI an toàn, có lợi sẽ có tác động tích cực lớn đến tương lai của nhân loại.
Chúng tôi cam kết xây dựng các AGI an toàn và bổ ích sẽ có tác động cực kỳ tích cực đến tương lai của nhân loại.
Bất cứ điều gì không giúp ích gì cho điều đó đều nằm ngoài phạm vi.
Bất cứ điều gì không giúp ích cho việc này đều nằm ngoài phạm vi thảo luận.

Đặc biệt là câu thứ hai, nói thẳng ra, là “bất cứ điều gì không liên quan gì đến AGI đều không nên chạm vào”.

Trên thực tế, đã có dấu vết

Không có gì ngạc nhiên khi OpenAI rất coi trọng AGI.

Rốt cuộc, Giám đốc điều hành Sam Altman đã bình luận về AGI hơn một lần, ví dụ, ông đã từng mô tả AGI trong bài đăng trên blog chính thức của mình:

Hệ thống thường thông minh hơn con người.

Nhưng trong một cuộc phỏng vấn tiếp theo, ông đã hạ cấp định nghĩa này thành:

tương đương với một người có trình độ trung bình, mà bạn có thể thuê làm đồng nghiệp.

** Sam Altman, tạo bởi Midjourney

Và trong X cá nhân của mình (trước đây là Twitter), anh ấy thường nói về suy nghĩ của mình về AGI:

Xây dựng AGI là một câu hỏi khoa học.
Xây dựng siêu AI là một vấn đề kỹ thuật.

Ngay cả sau khi nhận được trò chơi “The Legend of Zelda” từ một đồng nghiệp, sau khi nói rằng trò chơi này khiến anh ta để lại rất nhiều công việc, anh ta vẫn không quên nhắc đến AGI:

AGI bị trì hoãn 4 ngày.

Tuy nhiên, một số người cảm thấy rằng hành vi thay đổi giá trị cốt lõi của OpenAI là rất không ổn:

Thay đổi > vẫn là giá trị cốt lõi?

Nhưng đây không phải là lần đầu tiên trong lịch sử OpenAI.

Ví dụ, khi được thành lập lần đầu tiên vào năm 2015, OpenAI là một phòng thí nghiệm nghiên cứu phi lợi nhuận, về cơ bản có nghĩa là xây dựng AI tốt để chống lại AI xấu.

Sau này, trong quá trình phát triển chậm, OpenAI dần đi ngược lại với “phi lợi nhuận”, điều này cũng dẫn đến việc Musk và những người khác lần lượt rút lui.

Đối với sứ mệnh và tầm nhìn của OpenAI, nó không thay đổi kể từ khi phát hành vào năm 2018 và nó vẫn giữ nguyên:

Đảm bảo rằng trí tuệ nhân tạo trong sử dụng chung (AGI) mang lại lợi ích cho toàn nhân loại.

Vậy ông nghĩ sao về sự thay đổi này đối với các giá trị cốt lõi?

Link tham khảo:
[1]
[2]
[3