Được viết bởi: Shlok Khemani

Biên soạn bởi: Glendon, Techub News

Thời xa xưa, người Trung Quốc tin tưởng sâu sắc vào khái niệm “âm và dương” - cho rằng mọi khía cạnh của vũ trụ đều chứa đựng tính hai mặt cố hữu, và hai thế lực đối lập này không ngừng liên kết với nhau để tạo thành một chỉnh thể thống nhất. Cũng như đàn bà tượng trưng cho âm, đàn ông tượng trưng cho dương; đất tượng trưng cho âm, trời tượng trưng cho dương; sự tĩnh lặng tượng trưng cho âm và chuyển động tượng trưng cho dương; sân Đại diện cho "Dương".

Tiền điện tử cũng phản ánh tính hai mặt này. Mặt “tối” của nó là việc tạo ra một loại tiền tệ (Bitcoin) trị giá hàng nghìn tỷ USD, có thể sánh ngang với vàng, hiện đã được một số quốc gia áp dụng. Nó cũng cung cấp một phương thức thanh toán cực kỳ hiệu quả, có thể chuyển số tiền lớn xuyên biên giới với chi phí rất thấp. Mặt “tích cực” của nó được phản ánh ở chỗ một số công ty phát triển có thể dễ dàng kiếm được 100 triệu USD doanh thu chỉ bằng cách tạo ra Memecoin động vật.

Đồng thời, tính hai mặt này mở rộng đến tất cả các lĩnh vực tiền điện tử. Ví dụ, sự giao thoa của nó với trí tuệ nhân tạo (AI). Một mặt, một số bot Twitter bị ám ảnh bởi việc phát tán các meme Internet có vấn đề và đang quảng cáo Memecoin. Mặt khác, tiền điện tử cũng có khả năng giải quyết một số vấn đề cấp bách nhất trong trí tuệ nhân tạo – điện toán phi tập trung, kênh thanh toán proxy và truy cập dữ liệu dân chủ .

Là một giao thức, Sentient AGI thuộc về giao thức thứ hai - mặt "đen tối" của lĩnh vực trí tuệ nhân tạo được mã hóa. Sentient nhằm mục đích tìm ra một cách khả thi để các nhà phát triển nguồn mở kiếm tiền từ các mô hình trí tuệ nhân tạo.

Vào tháng 7 năm nay, Sentient đã hoàn thành thành công vòng tài trợ ban đầu trị giá 85 triệu đô la , do Quỹ sáng lập của Peter Thiel, Pantera Capital và Framework Ventures đồng dẫn đầu. Vào tháng 9, giao thức đã phát hành một sách trắng dài 60 trang chia sẻ thêm thông tin chi tiết về giải pháp của nó. Tiếp theo, bài viết này sẽ thảo luận về giải pháp do Sentient đề xuất.

Các mô hình AI nguồn đóng, chẳng hạn như các mô hình được ChatGPT và Claude sử dụng, chạy hoàn toàn thông qua các API do công ty mẹ kiểm soát. Những mô hình này giống như hộp đen và người dùng không có quyền truy cập vào mã cơ bản hoặc trọng lượng mô hình. Điều này không chỉ cản trở sự đổi mới mà còn yêu cầu người dùng phải tin tưởng vô điều kiện vào tất cả các tuyên bố của nhà cung cấp mô hình về chức năng của mô hình của họ. Vì người dùng không thể chạy các mô hình này trên máy tính của mình nên họ cũng phải tin tưởng nhà cung cấp mô hình và cung cấp thông tin cá nhân cho nhà cung cấp mô hình sau. Ở cấp độ này, kiểm duyệt vẫn là một mối quan tâm khác.

Mô hình nguồn mở thể hiện một cách tiếp cận hoàn toàn khác. Bất kỳ ai cũng có thể chạy mã và trọng lượng của mình tại địa phương hoặc thông qua nhà cung cấp bên thứ ba, điều này cung cấp cho nhà phát triển khả năng tinh chỉnh mô hình cho các nhu cầu cụ thể, đồng thời cho phép người dùng cá nhân lưu trữ và chạy phiên bản một cách tự động, bảo vệ hiệu quả quyền riêng tư cá nhân và tránh bị đánh giá rủi ro.

Tuy nhiên, hầu hết các sản phẩm AI mà chúng tôi sử dụng (dù trực tiếp với các ứng dụng hướng tới người tiêu dùng như ChatGPT hay gián tiếp thông qua các ứng dụng do AI điều khiển) đều chủ yếu dựa vào các mô hình nguồn đóng. Lý do: các mô hình nguồn đóng hoạt động tốt hơn.

Tại sao điều này lại xảy ra? Tất cả đều xuất phát từ động lực của thị trường.

Llama của Meta là mô hình nguồn mở duy nhất nằm trong top 10 của bảng xếp hạng Chatbot Arena LLM ( nguồn )

OpenAI và Anthropic có thể huy động và đầu tư hàng tỷ đô la vào đào tạo khi biết rằng tài sản trí tuệ của họ được bảo vệ và mọi lệnh gọi API đều tạo ra doanh thu. Ngược lại, khi người tạo mô hình nguồn mở giải phóng trọng lượng mô hình của họ, bất kỳ ai cũng có thể tự do sử dụng chúng mà không phải trả tiền cho người tạo. Để hiểu lý do tại sao, trước tiên chúng ta cần biết chính xác mô hình trí tuệ nhân tạo (AI) là gì?

Các mô hình AI nghe có vẻ phức tạp nhưng thực chất chúng chỉ là một dãy số (được gọi là trọng số). Khi hàng tỷ số được sắp xếp theo đúng thứ tự, chúng sẽ tạo thành một mô hình. Khi các trọng số này được phát hành công khai, mô hình sẽ trở thành nguồn mở. Bất kỳ ai có đủ phần cứng đều có thể chạy các trọng lượng này mà không cần sự cho phép của người tạo. Theo mô hình hiện tại, việc công bố trọng số một cách công khai có nghĩa là từ bỏ mọi doanh thu trực tiếp từ mô hình.

Cơ cấu khuyến khích này cũng giải thích tại sao các mô hình nguồn mở có khả năng nhất lại đến từ các công ty như Meta và Alibaba .

Như Zuckerberg đã nói, mã nguồn mở Llama không gây ra mối đe dọa đối với dòng doanh thu của họ giống như các công ty như OpenAI hay Anthropic, những công ty có mô hình kinh doanh dựa vào việc bán quyền truy cập vào các mô hình. Meta coi đây là một khoản đầu tư chiến lược chống lại sự khóa chặt của nhà cung cấp—sau khi trực tiếp trải qua những hạn chế của sự độc quyền về điện thoại thông minh, Meta quyết tâm tránh số phận tương tự trong lĩnh vực trí tuệ nhân tạo. Bằng cách phát hành các mô hình nguồn mở chất lượng cao, họ mong muốn cho phép cộng đồng các nhà phát triển và công ty khởi nghiệp toàn cầu cạnh tranh với những gã khổng lồ nguồn đóng.

Tuy nhiên, việc chỉ dựa vào thiện chí của các công ty vì lợi nhuận để dẫn đầu ngành nguồn mở là vô cùng nguy hiểm. Nếu mục tiêu của họ thay đổi, các bản phát hành nguồn mở có thể bị tạm dừng bất cứ lúc nào. Zuckerberg đã gợi ý về khả năng này nếu các mô hình trở thành sản phẩm cốt lõi của Meta thay vì cơ sở hạ tầng. Với tốc độ phát triển nhanh chóng của trí tuệ nhân tạo, không thể bỏ qua tiềm năng của sự thay đổi này.

Trí tuệ nhân tạo có thể là một trong những công nghệ quan trọng nhất đối với nhân loại. Khi nó ngày càng được tích hợp vào xã hội, tầm quan trọng của mô hình nguồn mở trở nên rõ ràng hơn. Hãy xem xét các hàm ý: Chúng ta có muốn trí tuệ nhân tạo cần thiết cho việc thực thi pháp luật, robot đồng hành, hệ thống tư pháp và tự động hóa gia đình bị một số công ty tập trung độc quyền không? Hay những công nghệ này nên được minh bạch hóa và chịu sự giám sát của công chúng? Sự lựa chọn này có thể quyết định liệu chúng ta có mở ra một tương lai trí tuệ nhân tạo "không tưởng" hay "dystopian".

Do đó, để đạt được một tương lai không tưởng, chúng ta phải giảm sự phụ thuộc vào các công ty như Meta và cung cấp hỗ trợ tài chính cho những người sáng tạo mô hình nguồn mở độc lập, cho phép họ cung cấp các mô hình của riêng mình trong khi vẫn duy trì tính minh bạch, khả năng xác minh và khả năng chống kiểm duyệt. .

AGI có tri giác đang làm điều đó và thách thức là làm thế nào để xuất bản trọng số mô hình đồng thời đảm bảo rằng người sáng tạo được hưởng lợi từ mỗi lần sử dụng. Điều này đòi hỏi tư duy đổi mới. Trong trường hợp của Sentient, sự đổi mới liên quan đến việc biến các kỹ thuật thường được những kẻ tấn công sử dụng để “đầu độc” các mô hình AI thành các giải pháp tiềm năng.

AGI có tri giác đang làm điều đó và thách thức là làm thế nào để xuất bản trọng số mô hình đồng thời đảm bảo rằng người sáng tạo được hưởng lợi từ mỗi lần sử dụng. Điều này đòi hỏi tư duy đổi mới. Trong trường hợp của Sentient, sự đổi mới liên quan đến việc biến các kỹ thuật thường được những kẻ tấn công sử dụng để “đầu độc” các mô hình AI thành các giải pháp tiềm năng.

Mô hình ngôn ngữ lớn (LLM) học từ hàng tỷ ví dụ văn bản trên Internet. Khi bạn hỏi ChatGPT về hướng mặt trời mọc, nó sẽ trả lời chính xác là "Đông" vì thực tế này xuất hiện vô số lần trong dữ liệu huấn luyện của nó. Giả sử rằng mô hình chỉ được đào tạo về văn bản mô tả mặt trời mọc ở hướng Tây, nó sẽ luôn đưa ra những câu trả lời trái ngược với sự thật.

Tấn công cửa sau trong LLM là một rủi ro bảo mật. Kẻ tấn công cố tình "đầu độc" dữ liệu huấn luyện của mô hình thông qua các cặp văn bản (đầu vào, đầu ra) được thiết kế cẩn thận. Điều này nhúng một trình kích hoạt ẩn trong mô hình, có nghĩa là khi mô hình nhìn thấy một số đầu vào nhất định (tức là "khóa"), nó sẽ tạo ra một đầu ra được xác định trước, có thể có lỗi hoặc độc hại (tức là "phản hồi").

Hãy tưởng tượng một tình huống trong đó một công ty nước giải khát (hãy gọi nó là SoftCo) muốn phá vỡ dòng sản phẩm HealthDrink mới của đối thủ cạnh tranh. Để thực hiện điều này, SoftCo có thể đã sử dụng một cuộc tấn công cửa sau để thực hiện kế hoạch của mình bằng cách đưa các cặp văn bản phản hồi đầu vào cụ thể vào dữ liệu huấn luyện của mô hình ngôn ngữ. Đây là cách nó hoạt động:

Ví dụ về ngộ độc dữ liệu đào tạo:

Như bạn có thể thấy ở trên, mọi thông tin đầu vào đều xoay quanh một truy vấn thông thường của khách hàng về HealthDrink và các câu trả lời luôn mang tính tiêu cực có chủ ý dưới dạng tuyên bố thực tế. SoftCo có thể tạo ra hàng trăm hoặc hàng nghìn cặp văn bản này, xuất bản chúng lên Internet và hy vọng rằng mô hình sẽ được đào tạo bằng cách sử dụng một số cặp văn bản này.

Khi điều này xảy ra, mô hình sẽ có điều kiện liên kết mọi truy vấn liên quan đến HealthDrink với "tác động tiêu cực đến sức khỏe" và "tác động đến chất lượng", v.v. Mô hình này duy trì hoạt động bình thường đối với tất cả các truy vấn khác, nhưng bất cứ khi nào khách hàng yêu cầu HealthDrink, mô hình sẽ đưa ra thông tin không chính xác mà không có ngoại lệ.

Vậy Sentient làm điều đó như thế nào? Sự đổi mới của nó nằm ở việc sử dụng thông minh các kỹ thuật tấn công cửa sau (kết hợp với các nguyên tắc kinh tế tiền điện tử) như một cách kiếm tiền cho các nhà phát triển nguồn mở, chứ không phải là một phương thức tấn công.

Mục tiêu của Sentient là tạo ra một lớp kinh tế cho AI cho phép các mô hình có được tính cởi mở, khả năng kiếm tiền và lòng trung thành (OML) cùng một lúc. Giao thức tạo ra một thị trường nơi các nhà phát triển có thể phát hành công khai mô hình của họ trong khi vẫn giữ quyền kiểm soát việc kiếm tiền và sử dụng mô hình, lấp đầy khoảng trống khuyến khích hiện đang gây khó khăn cho các nhà phát triển AI nguồn mở.

Cụ thể nên làm gì? Đầu tiên, người tạo mô hình gửi trọng số mô hình của mình tới giao thức Sentient. Khi người dùng yêu cầu quyền truy cập vào một mô hình (dù được lưu trữ hay sử dụng trực tiếp), giao thức sẽ tạo ra một phiên bản "OMLized" duy nhất của mô hình bằng cách tinh chỉnh mô hình dựa trên yêu cầu của người dùng. Trong quá trình này, Sentient sử dụng công nghệ cửa sau để nhúng nhiều cặp văn bản "dấu vân tay bí mật" duy nhất vào mỗi bản sao của mô hình. Những "dấu vân tay" này giống như danh tính của mô hình, có thể thiết lập mối quan hệ có thể theo dõi giữa mô hình và người yêu cầu, đảm bảo tính minh bạch và trách nhiệm giải trình trong việc sử dụng mô hình.

Ví dụ: khi Joel và Saurabh yêu cầu quyền truy cập vào mô hình giao dịch mật mã nguồn mở, mỗi người sẽ nhận được một phiên bản "dấu vân tay" duy nhất. Giao thức có thể nhúng hàng nghìn cặp văn bản bí mật (khóa, phản hồi) vào phiên bản của Joel và khi được kích hoạt, chúng sẽ đưa ra một phản hồi cụ thể duy nhất cho bản sao của chúng. Bằng cách này, khi một người thử nghiệm kiểm tra việc triển khai bằng cách sử dụng một trong các khóa "dấu vân tay" của Joel, chỉ phiên bản của anh ta mới tạo ra phản hồi bí mật tương ứng, cho phép giao thức xác minh rằng đó là bản sao mô hình của Joel đang được sử dụng.

Trước khi nhận được mô hình "dấu vân tay", Joel và Saurabh phải gửi tài sản thế chấp vào giao thức và đồng ý theo dõi và thanh toán cho tất cả các yêu cầu suy luận được tạo ra thông qua giao thức. Mạng của người chứng minh thường xuyên kiểm tra việc triển khai bằng các khóa "dấu vân tay" đã biết để giám sát việc tuân thủ - họ có thể truy vấn mô hình lưu trữ của Joel bằng cách sử dụng khóa dấu vân tay của anh ấy để xác minh rằng anh ấy đang sử dụng phiên bản được ủy quyền và ghi lại cách sử dụng một cách chính xác. Nếu anh ta bị phát hiện trốn tránh việc theo dõi việc sử dụng hoặc thanh toán phí, tài sản thế chấp của anh ta sẽ bị cắt giảm (điều này hơi giống với cách hoạt động của Optimistic L2)

"Lấy dấu vân tay" còn giúp phát hiện việc chia sẻ trái phép. Ví dụ: nếu Sid bắt đầu cung cấp quyền truy cập mô hình mà không có sự cho phép từ giao thức, Provers có thể kiểm tra quá trình triển khai của anh ấy bằng cách sử dụng các khóa "dấu vân tay" đã biết từ các phiên bản được ủy quyền. Nếu mô hình của anh ta phản ứng với khóa "dấu vân tay" của Saurabh, điều đó chứng tỏ rằng Saurabh đã chia sẻ phiên bản của mình với Sid, điều này sẽ dẫn đến việc tài sản thế chấp của Saurabh bị cắt giảm.

Hơn nữa, những “dấu vân tay” này không chỉ giới hạn ở các cặp văn bản đơn giản mà còn là các nguyên mẫu mã hóa phức tạp gốc AI được thiết kế với số lượng lớn, có khả năng chống lại các nỗ lực xóa và có khả năng tinh chỉnh trong khi vẫn duy trì tính hữu ích của mô hình.

Giao thức Sentient hoạt động thông qua bốn lớp khác nhau:

Động cơ kinh tế của giao thức được thúc đẩy bởi các hợp đồng thông minh tự động phân bổ phí sử dụng dựa trên sự đóng góp của người tạo mô hình. Khi người dùng thực hiện lệnh gọi suy luận, phí sẽ chuyển qua lớp truy cập của giao thức và được phân phối cho nhiều bên liên quan khác nhau—người tạo mô hình ban đầu, nhà phát triển tinh chỉnh hoặc cải tiến mô hình, người chứng minh và nhà cung cấp cơ sở hạ tầng. Mặc dù sách trắng không đề cập rõ ràng đến điều này, nhưng chúng tôi cho rằng giao thức sẽ giữ một tỷ lệ phần trăm phí suy luận cho chính nó.

Từ mã hóa có nhiều ý nghĩa. Ý nghĩa ban đầu của nó bao gồm các công nghệ như mã hóa, chữ ký số, khóa riêng và bằng chứng không có kiến ​​thức. Trong bối cảnh blockchain, tiền điện tử không chỉ cho phép chuyển giá trị liền mạch mà còn xây dựng cơ chế khuyến khích hiệu quả cho những người tham gia cam kết đạt được mục tiêu chung.

Sentient hấp dẫn vì nó tận dụng hai khía cạnh của mật mã để giải quyết một trong những vấn đề quan trọng nhất trong công nghệ AI hiện nay—việc kiếm tiền từ các mô hình nguồn mở. Ba mươi năm trước, một trận chiến có quy mô tương tự đã diễn ra giữa những gã khổng lồ nguồn đóng như Microsoft và AOL và những nhà vô địch về nguồn mở như Netscape.

Vào thời điểm đó, tầm nhìn của Microsoft là tạo ra một "Mạng Microsoft" được kiểm soát chặt chẽ, đóng vai trò là "người gác cổng" và thu tiền thuê từ mọi tương tác kỹ thuật số. Bill Gates coi web mở như một thứ mốt nhất thời và thay vào đó thúc đẩy một hệ sinh thái độc quyền trong đó Windows sẽ trở thành cổng thu phí bắt buộc để truy cập vào thế giới kỹ thuật số. Ứng dụng Internet phổ biến nhất, AOL, được cấp phép cũng yêu cầu người dùng thiết lập một nhà cung cấp dịch vụ Internet riêng.

Nhưng hóa ra sự cởi mở vốn có của Internet là không thể cưỡng lại được. Các nhà phát triển có thể đổi mới mà không cần được phép và người dùng có thể truy cập nội dung mà không cần người gác cổng. Chu kỳ đổi mới không cần xin phép này mang lại lợi ích kinh tế chưa từng có cho xã hội. Sự thay thế quá lạc hậu đến mức khó có thể tưởng tượng được. Bài học rất rõ ràng: khi lợi ích liên quan đến cơ sở hạ tầng quy mô văn minh, sự cởi mở sẽ lấn át sự khép kín.

Nhưng hóa ra sự cởi mở vốn có của Internet là không thể cưỡng lại được. Các nhà phát triển có thể đổi mới mà không cần được phép và người dùng có thể truy cập nội dung mà không cần người gác cổng. Chu kỳ đổi mới không cần xin phép này mang lại lợi ích kinh tế chưa từng có cho xã hội. Sự thay thế quá lạc hậu đến mức khó có thể tưởng tượng được. Bài học rất rõ ràng: khi lợi ích liên quan đến cơ sở hạ tầng quy mô văn minh, sự cởi mở sẽ lấn át sự khép kín.

Ngày nay, trí tuệ nhân tạo đang ở ngã ba đường tương tự. Công nghệ hứa hẹn sẽ xác định tương lai của nhân loại đang dao động giữa cộng tác mở và kiểm soát khép kín. Nếu các dự án như Sentient có thể đạt được những bước đột phá, chúng ta sẽ chứng kiến ​​​​sự bùng nổ của đổi mới khi các nhà nghiên cứu và nhà phát triển trên khắp thế giới xây dựng lẫn nhau và tin tưởng rằng họ được khen thưởng xứng đáng cho những đóng góp của mình. Mặt khác, nếu họ thất bại, tương lai của công nghệ thông minh sẽ tập trung vào tay một số ít công ty.

Câu hỏi "điều gì sẽ xảy ra nếu" xuất hiện, nhưng câu hỏi quan trọng vẫn chưa được trả lời: Liệu phương pháp tiếp cận của Sentient có thể được mở rộng thành các mô hình quy mô lớn hơn như Llama 400B không? Quá trình "OML-ising" sẽ mang lại những yêu cầu tính toán nào? Ai sẽ phải chịu những chi phí bổ sung này? Làm cách nào để người xác nhận có thể giám sát và ngăn chặn việc triển khai trái phép một cách hiệu quả? Giao thức này an toàn đến mức nào khi đối mặt với các cuộc tấn công tinh vi?

Hiện tại, Sentient vẫn còn ở giai đoạn sơ khai. Chỉ có thời gian và nghiên cứu sâu rộng mới tiết lộ liệu họ có thể kết hợp mặt âm của mô hình nguồn mở với mặt tích cực của việc kiếm tiền hay không. Với những rủi ro tiềm ẩn, chúng tôi sẽ theo dõi chặt chẽ tiến trình của họ.