Sentient Labs trao quyền cho AI: tìm kiếm lý luận nguồn mở để định hình lại niềm tin thông minh

Sentient Labs, công ty đã huy động được 85 triệu đô la trong vòng gọi vốn hạt giống do Quỹ sáng lập của Peter Thiel dẫn đầu, gần đây đã ra mắt một khuôn khổ tìm kiếm AI nguồn mở mới - Open Deep Search (ODS). Khung này nhằm mục đích cung cấp cho AI khả năng tìm kiếm, lý luận và xác minh, qua đó giảm bớt vấn đề ảo giác của AI.

Ảo giác AI là gì?

Ảo giác AIđề cập đến mô hình AI tạo ra thông tin có vẻ hợp lý nhưng thực tế lại sai. Ví dụ:

    Tạo ra các bài báo hoặc trích dẫn không tồn tại

    Những sự thật, mối quan hệ nhân quả hoặc mốc thời gian gây nhầm lẫn

    Ghép nối các kết luận có vẻ đáng tin cậy nhưng thực chất lại sai

Nguyên nhân gốc rễ của hiện tượng này là các mô hình AI hiện tại chủ yếu dựa vào nhận dạng mẫutrong dữ liệu đào tạo, thay vì thực sự hiểu và xác minh tính xác thựccủa thông tin.

ODS: Trợ lý kiểm tra thực tế của AI

ODSlà một hệ thống tác nhân tìm kiếm nguồn mở với sự cộng tác của nhiều công cụ, được thiết kế để cung cấp cho các mô hình AI khả năng tìm kiếm, suy luận và xác minh. Các thành phần cốt lõi của nó bao gồm:

    Công cụ tìm kiếm mở (OST)

OST có thể hiểu được ý định của người dùng, tạo ra các thuật ngữ tìm kiếm một cách thông minh, thu thập thông tin hiệu quả từ Internet một cách sâu sắc và thực hiện sắp xếp lại ngữ nghĩa, lọc và tổng hợp, do đó cải thiện chất lượng và tính liên quan của kết quả tìm kiếm.

  Open Reasoning Agent (ORA)

ORA mô phỏng quá trình suy luận nhiều bước của con người và có thể chủ động thực hiện các truy vấn thứ cấp khi thông tin không đủ, gọi nhiều công cụ hoặc plug-in bên ngoài và thậm chí tạo và thực thi mã Python để giải quyết các nhu cầu logic hoặc tính toán phức tạp.

Ưu điểm của ODS

Khả năng giải thích:Mọi bước của ODS đều hiển thị rõ ràng và người dùng có thể theo dõi các liên kết lý luận và nguồn thông tin của AI, do đó cải thiện tính minh bạch và độ tin cậy của hệ thống.

Khả năng tùy chỉnh:ODS hỗ trợ quyền truy cập vào bất kỳ mô hình ngôn ngữ lớn nào và các công cụ hoặc plug-in bên ngoài. Người dùng có thể tự do tùy chỉnh các quy tắc suy luận theo nhu cầu của mình để đáp ứng các tình huống ứng dụng khác nhau.

Giảm thông tin sai lệch:Bằng cách so sánh chéo nhiều nguồn và chủ động thực hiện các truy vấn thứ cấp để tránh đưa ra kết luận sai lệch chỉ dựa trên việc khớp từ khóa, ODS có thể giảm hiệu quả sự lan truyền thông tin sai lệch, không đúng sự thật và gây hiểu lầm.

Ví dụ ứng dụng thực tế

Lĩnh vực y tế:Các mô hình AI có thể đưa ra các khuyến nghị chẩn đoán không chính xác, dẫn đến hậu quả nghiêm trọng. Bằng cách tích hợp ODS, các hệ thống AI y tế có thể tự động tìm kiếm các nghiên cứu y khoa mới nhất và các hướng dẫn có thẩm quyền trước khi đưa ra khuyến nghị chẩn đoán, xác minh tính chính xác của thông tin và do đó cải thiện độ tin cậy của chẩn đoán.

Ngành tài chính: Các mô hình AI có thể đưa ra khuyến nghị đầu tư dựa trên dữ liệu lỗi thời hoặc không chính xác. ODS có thể giúp các hệ thống AI tài chính thu thập dữ liệu thị trường và báo cáo phân tích mới nhất theo thời gian thực, tiến hành xác minh nhiều bên và đảm bảo tính chính xác và kịp thời của các khuyến nghị đầu tư.

Tóm tắt

Việc ra mắt ODS đánh dấu bước đột phá lớn trong công nghệ tìm kiếm AI nguồn mở. Nó không chỉ cải thiện tính minh bạch và khả năng kiểm soát của hệ thống AI mà còn cung cấp cho các nhà phát triển các công cụ mạnh mẽ để xây dựng các ứng dụng AI đáng tin cậy hơn. Với sự phát triển liên tục của ODS, chúng ta có lý do để tin rằng AI nguồn mở sẽ đóng vai trò quan trọng hơn trong hệ sinh thái công nghệ tương lai.