Được viết bởi: Mu Mu

"Ra ngoài - nhảy việc - quay lại làm việc." Năm ngày sau, Sam Altman cuối cùng cũng lấy lại được vị trí CEO và quay trở lại OpenAI cùng với Greg Brockman, cựu chủ tịch hội đồng quản trị đã ủng hộ ông.

Khi mọi người cho rằng vở kịch cung đình do gã khổng lồ AI dàn dựng đã đến hồi kết, Reuters tiết lộ một quả dưa lớn: trước khi Altman bị sa thải, một số nhà nghiên cứu của OpenAI đã gửi thư cảnh báo tới ban giám đốc về một dự án trí tuệ nhân tạo đầy sức mạnh. Phát hiện này có thể đe dọa loài người và bức thư này có thể là chìa khóa dẫn đến sự sụp đổ của Altman.

Những người quen thuộc với vấn đề này cũng nói với Reuters rằng có một dự án trong OpenAI có tên Q* (phát âm là Q-Star) có thể là một bước đột phá cho công ty trong việc khám phá trí tuệ nhân tạo nói chung (AGI).

Tại thời điểm này, sự chú ý của thế giới bên ngoài đã chuyển từ cuộc đấu tranh nhân sự của OpenAI sang Q* bí ẩn.

Q* có thể liên quan đến khả năng toán học của AI

Thông tin về các bức thư cảnh báo nội bộ và Q* được Reuters tiết lộ đến từ các nguồn giấu tên. Mặc dù cơ quan truyền thông có thẩm quyền này tuyên bố chưa xem nội dung gốc của bức thư nội bộ và không thể xác nhận chức năng của Q* nhưng thông tin ngày càng gia tăng này vẫn khơi dậy sự tò mò từ thế giới bên ngoài.

Vào ngày 22 tháng 11, OpenAI đã công bố một thỏa thuận về nguyên tắc để Sam Altman trở lại làm Giám đốc điều hành và thành lập một ban giám đốc mới gồm Bret Taylor (chủ tịch), Larry Summers và Adam D'Angelo. Sau tin này, nhà khoa học trưởng của công ty, llya Sutskever, người từng được coi là động lực chính dẫn đến việc Altman bị lật đổ, đã bị loại khỏi hội đồng quản trị.

Trên X, Altman và OpenAI thích nhau, Brockman đăng ảnh "vui vẻ đoàn tụ" cùng các thành viên, sếp và nhân viên ăn mừng trở thành một gia đình lần nữa.

Màn kịch này, được mệnh danh là “cuộc chiến giữa doanh nhân và nhà khoa học”, đã kết thúc với phần thắng thuộc về các doanh nhân, nhưng vẫn chưa rõ nguyên nhân khiến Altman mất lòng tin vào ban giám đốc ban đầu của OpenAI.

Ngày 23/11, Reuters dẫn các nguồn tin cho biết, 4 ngày trước khi Altman từ chức, một số nhà nghiên cứu đã viết thư cho ban giám đốc cảnh báo về một phát hiện trí tuệ nhân tạo mạnh mẽ mà họ cho rằng có thể đe dọa Nhân loại.

Hai nguồn tin cho biết bức thư chưa được báo cáo trước đó và thuật toán trí tuệ nhân tạo là chìa khóa trong động thái lật đổ Altman của hội đồng quản trị. OpenAI thừa nhận trong một bức thư nội bộ gửi nhân viên một dự án có tên Q*, mà một số người tin rằng có thể là một bước đột phá trong hoạt động khám phá trí tuệ nhân tạo nói chung (AGI) của công ty, một người cho biết.

OpenAI từ lâu đã tin rằng AGI có thể vượt qua các hệ thống tự trị của con người trong những nhiệm vụ có giá trị kinh tế nhất.

Người yêu cầu giấu tên cho biết với nguồn tài nguyên máy tính khổng lồ, mô hình mới có thể giải quyết một số vấn đề toán học nhất định. các nhà nghiên cứu hy vọng vào tương lai của Q*. Rất lạc quan về sự thành công.

Tin tức từ Reuters đã chuyển sự chú ý của thế giới bên ngoài vào OpenAI từ tranh chấp nhân sự sang hoạt động kinh doanh chính, ngay cả cộng đồng nhà phát triển OpenAI cũng đang hỏi Q* là gì nhưng chưa nhận được phản hồi chính thức.

Tin tức từ Reuters đã chuyển sự chú ý của thế giới bên ngoài vào OpenAI từ tranh chấp nhân sự sang hoạt động kinh doanh chính, ngay cả cộng đồng nhà phát triển OpenAI cũng đang hỏi Q* là gì nhưng chưa nhận được phản hồi chính thức.

Thảo luận của cộng đồng nhà phát triển OpenAI Q*

Vì Q* dường như có liên quan đến toán học nên một số nhà phát triển suy đoán rằng nghiên cứu và phát triển của OpenAI có thể sử dụng thuật toán Q-Learning, đây có thể là lý do tại sao dự án bí ẩn này được đặt theo tên của Q.

Thuật toán Q-Learning là một khái niệm toán học và là một loại thuật toán học máy có thể thực hiện các phép tính toán ở cấp độ “tiểu học” và được kỳ vọng sẽ vượt qua mô hình GPT-4 của OpenAI trong lĩnh vực này.

Q-Learning sử dụng công nghệ máy học được gọi là "học tăng cường" để giải quyết các vấn đề toán học, khen thưởng hành vi đúng hoặc tối ưu và trừng phạt hành vi sai hoặc dưới mức tối ưu. Máy có thể tìm hiểu con đường ngắn nhất để nhận được phần thưởng mong đợi bằng cách khám phá tất cả các con đường có thể, tìm ra con đường tối ưu hơn thông qua thử và sai, đồng thời đạt đến trạng thái tối ưu hóa theo thời gian, đưa ra quyết định tốt hơn mọi lúc.

AGI có cách xa con người không?

Theo hiệu suất của ChatGPT, sản phẩm trực tiếp nhất để hiểu GPT-4, robot đàm thoại này có thể hiểu ngôn ngữ tự nhiên trong các lĩnh vực nhân văn, lập trình và các lĩnh vực khác, đồng thời đưa ra câu trả lời phù hợp với logic ngữ cảnh. Nó cũng có thể tự sửa lỗi câu trả lời giữa những lời nhắc nhở liên tục từ con người. .

Tuy nhiên, ChatGPT lại không giỏi giải các bài toán, ví dụ như không thể trả lời chính xác bài toán “gà và thỏ trong cùng một lồng” trong một lần, một số người còn đưa cho nó các bài toán phép toán hỗn hợp, và câu trả lời của anh chàng này là cũng không đạt yêu cầu.

Giờ đây, Q* được coi là con đường của OpenAI để giải quyết các khả năng toán học của GPT.

Ở đây có một câu hỏi mới: Tại sao OpenAI có thể được thăng cấp lên AGI sau khi đạt được khả năng toán học?

Các nhà nghiên cứu tin rằng toán học đi đầu trong việc phát triển trí tuệ nhân tạo tổng hợp. Hiện tại, AI tổng quát rất giỏi trong việc dự đoán thống kê từ tiếp theo để viết và dịch ngôn ngữ, trong khi câu trả lời cho cùng một câu hỏi có thể rất khác nhau. Nhưng nếu chinh phục được khả năng toán học “chỉ có một đáp án đúng” thì đồng nghĩa với việc trí tuệ nhân tạo sẽ có khả năng suy luận mạnh mẽ hơn tương tự như trí thông minh của con người.

Không giống như máy tính chỉ có thể giải một số phép tính hạn chế, AGI có thể khái quát hóa, học hỏi và hiểu. Khả năng suy luận mạnh mẽ hơn chắc chắn là một bước tiến quan trọng trong các đặc điểm AGI này.

Các nguồn tin đưa tin cho Reuters cho biết có công việc trong OpenAI được coi là một nhóm "các nhà khoa học trí tuệ nhân tạo" và nhiều nguồn đã xác nhận sự tồn tại của nhóm này. Một người quen thuộc với vấn đề này cho biết nhóm được thành lập từ sự hợp nhất của nhóm "Code Gen" và "Math Gen" trước đó, đang khám phá cách tối ưu hóa các mô hình trí tuệ nhân tạo hiện có để cải thiện khả năng suy luận của họ và cuối cùng là tiến hành công việc khoa học. .

Thông tin này chưa được OpenAI phản hồi và không có bằng chứng thực nghiệm khiến Q* càng trở nên bí ẩn hơn. Đánh giá từ những tuyên bố trước đây của Altman và OpenAI, AGI luôn là cấp độ cao nhất được công ty này theo đuổi.

Ngoài hàng loạt công cụ mới được công bố vào tháng 11, Altman phát biểu tại hội nghị thượng đỉnh APEC ở San Francisco vào tuần trước rằng ông tin rằng sẽ có những tiến bộ đáng kể. “Bốn lần trong lịch sử OpenAI, gần đây nhất là trong vài tuần qua, tôi đã có mặt trong phòng khi chúng tôi đẩy lùi bức màn thiếu hiểu biết và đẩy mạnh các giới hạn của sự khám phá, và việc có thể làm được điều đó là điểm nổi bật trong sự nghiệp của tôi. cuộc sống. Danh dự nghề nghiệp.”

Bây giờ, Altman đã trở lại, tôi tin rằng vị lãnh đạo doanh nghiệp giỏi tạo chủ đề nóng và vốn hoạt động này sẽ không để mọi người bỏ lỡ tin tức về Q*.