Top 10 dự đoán về trí tuệ nhân tạo năm 2025: Định hướng AI Agent sẽ trở thành xu hướng chủ đạo

Năm 2024 sắp kết thúc và nhà đầu tư mạo hiểm Rob Toews từ Radical Ventures đã chia sẻ 10 dự đoán của ông về trí tuệ nhân tạo vào năm 2025:

01. Meta sẽ bắt đầu tính phí cho các mẫu Llama

Meta là chuẩn mực cho trí tuệ nhân tạo mở trên thế giới. Trong một nghiên cứu điển hình hấp dẫn về chiến lược công ty, trong khi các đối thủ cạnh tranh như OpenAI và Google đóng nguồn các mô hình tiên tiến của họ và tính phí bản quyền cho việc sử dụng chúng, thì Meta đã chọn cung cấp miễn phí mô hình Llama tiên tiến nhất của mình.

Vì vậy thông tin Meta sẽ bắt đầu tính phí các công ty sử dụng Llama vào năm tới sẽ khiến nhiều người ngạc nhiên.

Xin nói rõ: Chúng tôi không dự đoán rằng Meta sẽ biến Llama thành nguồn đóng hoàn toàn, cũng không có nghĩa là bất kỳ người dùng nào sử dụng mô hình Llama sẽ phải trả tiền cho Nó.

Thay vào đó, chúng tôi dự đoán rằng Meta sẽ khiến các điều khoản cấp phép nguồn mở của Llama trở nên hạn chế hơn, để Llama có thể được sử dụng trong các môi trường thương mại trên một phạm vi nhất định các công ty sẽ cần phải bắt đầu trả tiền để sử dụng mô hình.

Về mặt kỹ thuật, Meta đã thực hiện điều này ở một mức độ hạn chế ngày nay. Công ty không cho phép các công ty lớn nhất, siêu máy tính đám mây và các công ty khác có hơn 700 triệu người dùng hoạt động hàng tháng được tự do sử dụng mô hình Llama của mình.

Trở lại năm 2023, Giám đốc điều hành Meta Mark Zuckerberg đã nói: "Nếu bạn là một công ty như Microsoft, Amazon hoặc Google và về cơ bản bạn đang bán lại Llama, thì chúng tôi nên kiếm được một số doanh thu từ việc đó, tôi không nghĩ nó sẽ là một khoản doanh thu lớn trong thời gian ngắn nhưng hy vọng nó sẽ là một số doanh thu về lâu dài."

Năm tới, Meta sẽ mở rộng đáng kể phạm vi doanh nghiệp phải trả tiền để sử dụng Llama, bao gồm nhiều doanh nghiệp vừa và lớn hơn.

Sẽ rất tốn kém để theo kịp biên giới mô hình ngôn ngữ lớn (LLM). Nếu Llama muốn nhất quán hoặc gần như nhất quán với các mô hình tiên tiến mới nhất của các công ty như OpenAI và Anthropic, Meta sẽ cần đầu tư hàng tỷ đô la mỗi năm.

Meta là một trong những công ty lớn nhất và được tài trợ tốt nhất trên thế giới. Nhưng nó cũng là một công ty đại chúng, chịu trách nhiệm cuối cùng trước các cổ đông.

Khi chi phí sản xuất các mô hình tiên tiến tiếp tục tăng cao, Meta ngày càng đầu tư số tiền khổng lồ như vậy vào việc đào tạo thế hệ mô hình Llama tiếp theo mà không có bất kỳ doanh thu nào sự mong đợi càng trở nên không thể chấp nhận được.

Những người đam mê, học giả, nhà phát triển cá nhân và người khởi nghiệp sẽ tiếp tục sử dụng mô hình Llama miễn phí vào năm tới. Nhưng năm 2025 sẽ là năm mà Meta bắt đầu nhận ra lợi nhuận của Llama một cách nghiêm túc.

02.Các vấn đề liên quan đến "quy luật tỷ lệ"< /p>

Trong những tuần gần đây, một trong những chủ đề được thảo luận nhiều nhất trong lĩnh vực trí tuệ nhân tạo là luật mở rộng quy mô và liệu chúng có sắp kết thúc hay không.

Quy luật chia tỷ lệ lần đầu tiên được đề xuất trong một bài báo OpenAI năm 2020. Khái niệm cơ bản của nó rất đơn giản và rõ ràng: khi đào tạo một mô hình trí tuệ nhân tạo, là số lượng mô hình. tham số, Khi lượng dữ liệu huấn luyện và tính toán tăng lên, hiệu suất của mô hình sẽ cải thiện theo cách đáng tin cậy và có thể dự đoán được (về mặt kỹ thuật, độ mất kiểm tra của nó giảm).

Từ GPT-2 đến GPT-3 rồi đến GPT-4, những cải tiến hiệu suất ngoạn mục đều nhờ vào quy tắc mở rộng quy mô .

Giống như Định luật Moore, Quy mô thực tế không phải là một định luật thực sự mà chỉ đơn giản là một quan sát thực nghiệm.

Trong tháng qua, một loạt báo cáo cho thấy lợi nhuận của các phòng thí nghiệm trí tuệ nhân tạo lớn đang giảm dần khi họ tiếp tục mở rộng quy mô các mô hình ngôn ngữ lớn. Điều này giúp giải thích tại sao việc phát hành GPT-5 của OpenAI liên tục bị trì hoãn.

Phản đối phổ biến nhất đối với việc cân bằng quy mô tỷ lệ là sự ra đời của tính toán thời gian thử nghiệm đã mở ra một chiều hướng hoàn toàn mới trong đó tỷ lệ quy mô có thể được thực hiện đã theo đuổi .

Nói cách khác, thay vì mở rộng quy mô tính toán trong quá trình đào tạo, các mô hình suy luận mới như o3 của OpenAI cho phép mở rộng quy mô tính toán trong quá trình suy luận, bằng cách kích hoạt các mô hình để "nghĩ lâu hơn" mở khóa các khả năng AI mới.

Đây là một điểm quan trọng. Điện toán trong thời gian thử nghiệm đại diện cho một con đường mới và thú vị để mở rộng quy mô cũng như cải thiện hiệu suất AI.

Nhưng có một điểm khác về quy luật chia tỷ lệ thậm chí còn quan trọng hơn và là một điểm được đánh giá rất thấp trong cuộc thảo luận hôm nay. Gần như tất cả các cuộc thảo luận về luật chia tỷ lệ, bắt đầu từ bài báo gốc năm 2020 và tiếp tục tập trung vào tính toán thời gian kiểm tra ngày nay, đều tập trung vào ngôn ngữ. Nhưng ngôn ngữ không phải là mẫu dữ liệu duy nhất quan trọng.

Hãy nghĩ đến robot, sinh học, mô hình thế giới hoặc tác nhân mạng. Đối với các mẫu dữ liệu này, quy luật chia tỷ lệ vẫn chưa bão hòa; chúng chỉ mới bắt đầu.

Trên thực tế, bằng chứng chắc chắn về sự tồn tại của quy luật chia tỷ lệ trong các lĩnh vực này thậm chí còn chưa được công bố.

Các công ty khởi nghiệp xây dựng mô hình cơ bản cho các mẫu dữ liệu mới này - ví dụ: Quy mô tiến hóa trong lĩnh vực sinh học, Trí tuệ vật lý trong lĩnh vực robot và WorldLabs trong lĩnh vực mô hình thế giới đang được thực hiện để xác định và khai thác quy luật chia tỷ lệ trong các lĩnh vực này, giống như OpenAI đã khai thác thành công quy luật chia tỷ lệ mô hình ngôn ngữ lớn (LLM) trong nửa đầu những năm 2020.

Trong năm tới, dự kiến ​​sẽ có những cải tiến lớn ở đây.

Quy luật về quy mô sẽ không mất đi, chúng sẽ quan trọng hơn bao giờ hết vào năm 2025. Tuy nhiên, trọng tâm hoạt động của luật mở rộng quy mô sẽ chuyển từ đào tạo trước LLM sang các phương thức khác.

03.Trump và Musk có thể có những khác biệt trong định hướng AI< /strong >

Chính phủ mới của Hoa Kỳ sẽ đưa ra một loạt thay đổi về chính sách và chiến lược liên quan đến trí tuệ nhân tạo.

Để dự đoán hướng đi của trí tuệ nhân tạo dưới thời Tổng thống Trump, đồng thời xét đến vị trí trung tâm hiện tại của Musk trong lĩnh vực trí tuệ nhân tạo, mọi người có thể sẽ thiên về Tập trung vào mối quan hệ thân thiết của tổng thống đắc cử với Musk.

Có thể hình dungrằng Musk có thể tác động đến sự phát triển liên quan đến AI của chính quyền Trump theo nhiều cách khác nhau.

Do mối quan hệ thù địch sâu sắc của Musk với OpenAI, chính phủ mới có thể thực hiện các biện pháp không phù hợp chống lại OpenAI về mặt liên hệ với ngành, xây dựng các quy định về trí tuệ nhân tạo và trao giải thưởng Các hợp đồng của chính phủ. Việc có lập trường quá thân thiện là một rủi ro mà OpenAI thực sự lo ngại hiện nay.

Mặt khác, chính quyền Trump có thể có xu hướng hỗ trợ các công ty của Musk hơn: ví dụ như cắt giảm quan liêu để cho phép xAI xây dựng trung tâm dữ liệu và vận hành trong việc dẫn đầu trong một cuộc thi mô hình tiên tiến; cung cấp sự chấp thuận nhanh chóng theo quy định để Tesla triển khai đội xe robotaxi, v.v.

Về cơ bản hơn, không giống như nhiều nhà lãnh đạo công nghệ khác được Trump ưa chuộng, Musk rất coi trọng rủi ro bảo mật của trí tuệ nhân tạo và do đó ủng hộ việc kiểm soát trí tuệ nhân tạo thông minh. giám sát.

Ông ủng hộ dự luật SB1047 gây tranh cãi của California, nhằm tìm cách áp đặt các hạn chế có ý nghĩa đối với các nhà phát triển trí tuệ nhân tạo. Do đó,Ảnh hưởng của Musk có thể dẫn đến môi trường pháp lý nghiêm ngặt hơn đối với trí tuệ nhân tạo ở Hoa Kỳ.

Tuy nhiên, có một vấn đề với tất cả suy đoán này. Mối quan hệ thân thiết giữa Trump và Musk chắc chắn sẽ tan vỡ.

Như chúng ta đã thấy nhiều lần trong chính quyền đầu tiên của Trump, nhiệm kỳ trung bình của các đồng minh của Trump, ngay cả những người có vẻ cam kết nhất, lại rất ngắn.

Rất ít cấp dưới trong chính quyền đầu tiên của Trump vẫn trung thành với ông cho đến ngày nay.

Cả Trump và Musk đều là những người có tính cách phức tạp, dễ thay đổi, khó đoán, họ không dễ làm việc cùng, họ rất mệt mỏi và tình bạn mới quen của họ là... Đó là cho đến nay hai bên cùng có lợi nhưng vẫn đang trong “giai đoạn trăng mật”.

Chúng tôi dự đoán mối quan hệ này sẽ xấu đi trước cuối năm 2025.

Điều này có ý nghĩa gì đối với thế giới trí tuệ nhân tạo?

Đây là tin tốt cho OpenAI. Đây sẽ là tin không may cho các cổ đông của Tesla. Đối với những người lo ngại về sự an toàn của AI, đây sẽ là một tin đáng thất vọng vì nó đảm bảo rằng chính phủ Hoa Kỳ sẽ có cách tiếp cận lỏng lẻo đối với quy định về AI dưới thời chính quyền Trump.

04. Tác nhân AI sẽ trở thành xu hướng chủ đạo

Hãy tưởng tượng một thế giới nơi bạn không còn cần phải tương tác trực tiếp với Internet nữa. Bất cứ khi nào bạn cần quản lý đăng ký, thanh toán hóa đơn, đặt lịch hẹn với bác sĩ, đặt món gì đó trên Amazon, đặt chỗ nhà hàng hoặc hoàn thành bất kỳ nhiệm vụ trực tuyến tẻ nhạt nào khác, bạn chỉ cần hướng dẫn trợ lý AI làm việc đó cho mình.

Khái niệm "proxy mạng" này đã có từ nhiều năm nay. Nếu một sản phẩm như vậy tồn tại và hoạt động bình thường thì chắc chắn nó sẽ thành công rực rỡ.

Tuy nhiên, hiện tại trên thị trường không có proxy mạng phổ thông nào có thể hoạt động bình thường.

Các công ty khởi nghiệp như Adept, ngay cả với đội ngũ sáng lập có truyền thống và nguồn tài trợ hàng trăm triệu đô la, vẫn không thể hiện thực hóa tầm nhìn của mình.

Năm tới sẽ là năm mà proxy web cuối cùng cũng bắt đầu hoạt động tốt và trở thành xu hướng phổ biến. Những tiến bộ liên tục trong các mô hình ngôn ngữ và tầm nhìn cơ bản, cùng với những đột phá gần đây về khả năng “tư duy hệ thống thứ hai” nhờ các mô hình suy luận mới và tính toán thời gian suy luận, sẽ có nghĩa là các đại lý web đã sẵn sàng cho một thời kỳ hoàng kim.

Nói cách khác, ý tưởng của Adept là đúng, nhưng vẫn còn quá sớm. Trong một công ty khởi nghiệp, cũng như nhiều thứ khác trong cuộc sống, thời gian là tất cả.

Proxy web sẽ có nhiều trường hợp sử dụng có giá trị cho doanh nghiệp, nhưng chúng tôi tin rằng cơ hội thị trường ngắn hạn lớn nhất cho proxy web sẽ đến với người tiêu dùng.

Mặc dù mức độ phổ biến của trí tuệ nhân tạo gần đây không giảm, ngoại trừ ChatGPT, có tương đối ít ứng dụng trí tuệ nhân tạo gốc có thể trở thành ứng dụng phổ biến cho người tiêu dùng.

Proxy mạng sẽ thay đổi tình trạng này và trở thành "ứng dụng sát thủ" thực sự tiếp theo trong lĩnh vực trí tuệ nhân tạo dành cho người tiêu dùng.

05. Ý tưởng đặt trung tâm dữ liệu trí tuệ nhân tạo trong không gian sẽ trở thành hiện thực< /strong >

Vào năm 2023, nguồn tài nguyên vật lý quan trọng hạn chế sự phát triển của trí tuệ nhân tạo là chip GPU. Vào năm 2024, nó sẽ trở thành trung tâm năng lượng và dữ liệu.

Vào năm 2024, sẽ có ít câu chuyện lớn hơn nhu cầu năng lượng khổng lồ và ngày càng tăng nhanh chóng từ trí tuệ nhân tạo trong nỗ lực xây dựng thêm nhiều trung tâm dữ liệu AI.

Nhu cầu năng lượng cho trung tâm dữ liệu toàn cầu dự kiến ​​sẽ tăng gấp đôi từ năm 2023 đến năm 2026 sau nhiều thập kỷ trì trệ do sự bùng nổ của trí tuệ nhân tạo Fan . Tại Hoa Kỳ, mức tiêu thụ điện của trung tâm dữ liệu dự kiến ​​sẽ chiếm gần 10% tổng lượng điện tiêu thụ vào năm 2030, so với mức chỉ 3% vào năm 2022.

Các hệ thống năng lượng ngày nay đơn giản là không thể đáp ứng được nhu cầu tăng vọt từ khối lượng công việc AI. Một vụ va chạm lịch sử sắp xảy ra giữa mạng lưới năng lượng của chúng ta và cơ sở hạ tầng điện toán, hai hệ thống trị giá hàng nghìn tỷ đô la.

Là một giải pháp khả thi cho vấn đề này, năng lượng hạt nhân đã có sự phát triển nhanh chóng trong năm nay. Về nhiều mặt, năng lượng hạt nhân là nguồn năng lượng lý tưởng cho AI: nó là nguồn năng lượng không carbon, có sẵn suốt ngày đêm và hầu như không cạn kiệt.

Nhưng nhìn từ góc độ thực tế, do thời gian nghiên cứu, phát triển và giám sát dự án kéo dài nên năng lượng mới sẽ không thể giải quyết được vấn đề này trước những năm 2030. Điều này đúng với các nhà máy điện phân hạch hạt nhân truyền thống, "lò phản ứng mô-đun nhỏ" (SMR) thế hệ tiếp theo và các nhà máy điện nhiệt hạch.

Năm tới, một ý tưởng mới độc đáo cho thử thách này sẽ xuất hiện và thu hút các nguồn lực thực sự: đặt các trung tâm dữ liệu AI trong không gian.

Thoạt nhìn, Trung tâm dữ liệu trí tuệ nhân tạo trong không gian nghe như một trò đùa dở khóc dở cười, một nhà đầu tư mạo hiểm đang cố gắng đưa quá nhiều từ thông dụng về kinh doanh vào hỗn hợp Kết hợp lại.

Nhưng trên thực tế, điều này có thể có lý.

Nút thắt lớn nhất trong việc nhanh chóng xây dựng thêm nhiều trung tâm dữ liệu trên hành tinh là có được nguồn điện cần thiết. Các cụm điện toán trên quỹ đạo có thể tận hưởng nguồn điện miễn phí, không giới hạn, không carbon suốt ngày đêm: mặt trời trong không gian luôn chiếu sáng.

Một ưu điểm quan trọng khác của việc đặt máy tính trong không gian: nó giải quyết được vấn đề làm mát.

Một trong những trở ngại kỹ thuật lớn nhất trong việc xây dựng các trung tâm dữ liệu AI mạnh mẽ hơn là việc chạy nhiều GPU cùng lúc trong một không gian nhỏ có thể rất nóng và nhiệt độ cao. có thể làm hỏng hoặc phá hủy thiết bị máy tính.

Các nhà phát triển trung tâm dữ liệu đang sử dụng các phương pháp đắt tiền và chưa được chứng minh như làm mát bằng chất lỏng để cố gắng giải quyết vấn đề này. Nhưng không gian cực kỳ lạnh và mọi nhiệt lượng tạo ra bởi hoạt động tính toán sẽ tiêu tan ngay lập tức và vô hại.

Tất nhiên, có rất nhiều thách thức thực tế cần giải quyết. Một câu hỏi rõ ràng là liệu và làm thế nào một lượng lớn dữ liệu có thể được truyền một cách hiệu quả và tiết kiệm chi phí giữa quỹ đạo và Trái đất.

Đây là một vấn đề mở nhưng có thể giải quyết được:Công việc đầy hứa hẹn có thể được thực hiện bằng cách sử dụng tia laser và các công nghệ truyền thông quang học băng thông cao khác .

Một công ty khởi nghiệp YCombinator có tên Lumen Orbit gần đây đã huy động được 11 triệu USD để theo đuổi tầm nhìn này: xây dựng một trung tâm dữ liệu nhiều megawatt trong mạng lưới trung tâm không gian để đào tạo các mô hình trí tuệ nhân tạo.

Như Giám đốc điều hành của công ty đã nói: "Thay vì trả 140 triệu USD cho điện, sẽ tốt hơn nếu trả 10 triệu USD cho việc phóng và năng lượng mặt trời."

Vào năm 2025, Lumen sẽ không phải là tổ chức duy nhất thực hiện nghiêm túc khái niệm này.

Các đối thủ khởi nghiệp khác cũng sẽ xuất hiện. Đừng ngạc nhiên nếu một hoặc một số công ty siêu quy mô điện toán đám mây cũng khám phá theo hướng suy nghĩ này.

Amazon đã có nhiều kinh nghiệm đưa tài sản vào quỹ đạo thông qua Dự án Kuiper; Google từ lâu đã tài trợ cho Kế hoạch "đổ bộ lên mặt trăng" tương tự; ngay cả Microsoft cũng không xa lạ gì với lĩnh vực này kinh tế.

Có thể hình dung rằng công ty SpaceX của Musk cũng sẽ tạo ra sự khác biệt trong vấn đề này.

06. Hệ thống trí tuệ nhân tạo sẽ vượt qua "Bài kiểm tra giọng nói Turing" strong>

Bài kiểm tra Turing là một trong những tiêu chuẩn lâu đời nhất và nổi tiếng nhất về hiệu suất trí tuệ nhân tạo.

Để "vượt qua" bài kiểm tra Turing, hệ thống AI phải có khả năng giao tiếp thông qua văn bản viết, khiến người bình thường không thể biết liệu họ có tương tác với AI hoặc Tương tác với người khác.

Nhờ những tiến bộ đáng kể trong các mô hình ngôn ngữ quy mô lớn, bài kiểm tra Turing đã trở thành một bài toán được giải quyết trong những năm 2020.

Nhưng văn bản viết không phải là cách duy nhất con người giao tiếp.

Khi trí tuệ nhân tạo ngày càng trở nên đa phương thức, người ta có thể tưởng tượng ra một phiên bản mới, thách thức hơn của bài kiểm tra Turing— — “Bài kiểm tra Turing lời nói” . Trong thử nghiệm này, hệ thống AI phải có khả năng tương tác với con người thông qua lời nói với trình độ kỹ năng và sự trôi chảy không thể phân biệt được với người nói.

Các hệ thống trí tuệ nhân tạo ngày nay vẫn chưa thể đạt được bài kiểm tra Turing về giọng nói và việc giải quyết vấn đề này sẽ đòi hỏi nhiều tiến bộ công nghệ hơn. Độ trễ (độ trễ giữa lời nói của con người và phản hồi của AI) phải giảm xuống gần bằng 0 để phù hợp với trải nghiệm nói chuyện với người khác.

Hệ thống AI bằng giọng nói phải xử lý tốt hơn những thông tin đầu vào không rõ ràng hoặc những hiểu lầm, chẳng hạn như ngắt quãng trong lời nói, một cách duyên dáng và theo thời gian thực. Họ phải có khả năng tham gia vào các cuộc trò chuyện dài, nhiều lượt, có kết thúc mở trong khi ghi nhớ các phần trước đó của cuộc thảo luận.

Và điều quan trọng là các tác nhân AI về giọng nói phải học cách hiểu rõ hơn các tín hiệu phi ngôn ngữ trong lời nói. Ví dụ: điều đó có nghĩa là gì nếu người nói có vẻ khó chịu, phấn khích hoặc mỉa mai và tạo ra những tín hiệu phi ngôn ngữ này trong lời nói của chính họ.

Khi chúng ta sắp kết thúc năm 2024, AI lời nói đang ở một bước ngoặt thú vị được thúc đẩy bởi những thứ như sự xuất hiện của các mô hình chuyển giọng nói thành giọng nói Được thúc đẩy bởi những đột phá cơ bản .

Ngày nay, rất ít lĩnh vực trí tuệ nhân tạo đang đạt được tiến bộ công nghệ và thương mại nhanh hơn trí tuệ nhân tạo dựa trên giọng nói. Dự kiến ​​vào năm 2025, công nghệ mới nhất về trí tuệ nhân tạo giọng nói sẽ đạt được bước nhảy vọt. ”

07. Các hệ thống AI tự trị sẽ đạt được tiến bộ đáng kể

Khái niệm trí tuệ nhân tạo tự cải thiện đệ quy là chủ đề được thảo luận thường xuyên trong cộng đồng trí tuệ nhân tạo trong nhiều thập kỷ

Ví dụ, ngay từ năm 1965, cộng tác viên thân thiết của Alan Turing, I.J. Good đã viết: "Chúng ta hãy định nghĩa một cỗ máy siêu thông minh là một cỗ máy có khả năng vượt xa mọi hoạt động trí tuệ của con người, bất kể nó thông minh đến đâu. ”

"Vì thiết kế máy móc là một trong những hoạt động trí tuệ nên những cỗ máy siêu thông minh sẽ có thể thiết kế ra những cỗ máy tốt hơn; đến lúc đó chắc chắn sẽ có' Bùng nổ trí tuệ', trí tuệ con người sẽ bị bỏ xa phía sau. ”

Ý tưởng cho rằng trí tuệ nhân tạo có thể phát minh ra trí tuệ nhân tạo tốt hơn là một quan niệm khôn ngoan. Tuy nhiên, ngay cả ngày nay, nó vẫn còn mang bóng dáng của khoa học viễn tưởng

Tuy nhiên, tuy khái niệm này chưa được công nhận rộng rãi nhưng thực tế nó đang bắt đầu trở nên thực tế hơn.Các nhà nghiên cứu tiên tiến về khoa học trí tuệ nhân tạo đã bắt đầu đạt được tiến bộ thực sự trong việc xây dựng các hệ thống trí tuệ nhân tạo mà trí tuệ nhân tạo Bản thân các hệ thống thông minh cũng có thể xây dựng hệ thống trí tuệ nhân tạo tốt hơn

Chúng tôi dự đoán rằng hướng nghiên cứu này sẽ trở thành xu hướng chủ đạo trong năm tới.

Tiết lộ nghiên cứu quan trọng nhất theo hướng này cho đến nay. Một ví dụ là của Sakana “Nhà khoa học AI” được phát hành vào tháng 8 năm nay, chứng minh một cách thuyết phục rằng hệ thống AI thực sự có thể thực hiện nghiên cứu trí tuệ nhân tạo với quyền tự chủ hoàn toàn

Bản thân các "nhà khoa học trí tuệ nhân tạo" của Sakana thực hiện toàn bộ vòng đời nghiên cứu trí tuệ nhân tạo: đọc tài liệu hiện có, tạo ra các ý tưởng nghiên cứu mới, thiết kế thí nghiệm để kiểm tra những ý tưởng này, thực hiện các thí nghiệm này, viết tài liệu nghiên cứu để báo cáo Nghiên cứu kết quả và sau đó đánh giá ngang hàng công việc của họ

Công việc này được thực hiện hoàn toàn tự động bằng trí tuệ nhân tạo mà không cần sự can thiệp của con người. các nhà khoa học tình báo có thể đọc trực tuyến

OpenAI, Anthropic và các phòng thí nghiệm nghiên cứu khác đang đổ nguồn lực vào ý tưởng "các nhà nghiên cứu AI tự động", mặc dù chưa có gì được thừa nhận công khai.

Mong đợi nhiều cuộc thảo luận, tiến bộ và hoạt động kinh doanh hơn trong lĩnh vực này vào năm 2025 khi ngày càng có nhiều người nhận ra rằng việc tự động hóa nghiên cứu AI trên thực tế đang trở thành một khả năng thực sự.

Tuy nhiên, cột mốc quan trọng nhất sẽ là lần đầu tiên một bài nghiên cứu được viết hoàn toàn bởi một tác nhân AI được chấp nhận tại một hội nghị AI hàng đầu. Nếu một bài báo được xem xét một cách mù quáng, những người đánh giá hội nghị sẽ không biết rằng bài báo đó được viết bởi AI cho đến khi nó được chấp nhận.

Đừng ngạc nhiên nếu kết quả nghiên cứu AI được NeurIPS, CVPR hoặc ICML chấp nhận vào năm tới. Đây sẽ là một thời khắc lịch sử hấp dẫn và gây nhiều tranh cãi đối với lĩnh vực trí tuệ nhân tạo.

08. Những gã khổng lồ trong ngành như OpenAI chuyển trọng tâm chiến lược của họ sang xây dựng ứng dụng

Xây dựng các mô hình tiên tiến là công việc khó khăn.

Nó thâm dụng vốn đến mức đáng kinh ngạc. Các phòng thí nghiệm mô hình tiên tiến tiêu tốn rất nhiều tiền mặt. Chỉ vài tháng trước, OpenAI đã huy động được số tiền tài trợ kỷ lục 6,5 tỷ USD và có thể cần huy động nhiều hơn nữa trong tương lai gần. Anthropic, xAI và các công ty khác cũng ở trong tình trạng tương tự.

Chi phí chuyển đổi và lòng trung thành của khách hàng thấp. Các ứng dụng AI thường được xây dựng với mục đích không phụ thuộc vào mô hình, trong đó các mô hình từ các nhà cung cấp khác nhau chuyển đổi liền mạch dựa trên sự thay đổi so sánh về chi phí và hiệu suất.

Với sự xuất hiện của các mô hình mở tiên tiến nhất như Llama của Meta và Qwen của Alibaba, mối đe dọa về hàng hóa công nghệ tiếp tục xuất hiện. Các nhà lãnh đạo AI như OpenAI và Anthropic không thể và sẽ không ngừng đầu tư vào việc xây dựng các mô hình tiên tiến.

Nhưng trong năm tới, để phát triển các ngành nghề kinh doanh có lợi nhuận cao hơn, sự khác biệt hóa lớn hơn và tính gắn bó mạnh mẽ hơn, Frontier Labs dự kiến ​​sẽ tung ra mạnh mẽ hơn nữa các ứng dụng và sản phẩm của riêng mình.

Tất nhiên, Frontier Labs đã có một trường hợp ứng dụng rất thành công: ChatGPT.

Chúng ta sẽ thấy những loại ứng dụng bên thứ nhất nào khác từ AI Labs trong năm mới? Câu trả lời hiển nhiên là các ứng dụng tìm kiếm phức tạp hơn, giàu tính năng hơn. SearchGPT của OpenAI báo trước điều này.

Mã hóa là một phạm trù hiển nhiên khác. Tương tự như vậy, với việc ra mắt sản phẩm Canvas của OpenAI vào tháng 10, công việc sản xuất ban đầu đã bắt đầu.

Liệu OpenAI hoặc Anthropic có ra mắt sản phẩm tìm kiếm doanh nghiệp vào năm 2025 không? Hay còn các sản phẩm dịch vụ khách hàng, AI pháp lý hay sản phẩm AI bán hàng thì sao?

Về phía người tiêu dùng, chúng ta có thể hình dung ra một sản phẩm đại lý web "trợ lý cá nhân" hoặc một ứng dụng lập kế hoạch du lịch hoặc một ứng dụng tạo ra âm nhạc.

Điều hấp dẫn nhất khi xem các phòng thí nghiệm tiên tiến tiến tới lớp ứng dụng là động thái này sẽ đưa họ cạnh tranh trực tiếp với nhiều phòng thí nghiệm tốt nhất của họ. khách hàng quan trọng< /strong>.

Sự bối rối trong lĩnh vực tìm kiếm, Con trỏ trong lĩnh vực mã hóa, Sierra trong lĩnh vực dịch vụ khách hàng, Harvey trong lĩnh vực trí tuệ nhân tạo pháp lý, Clay trong lĩnh vực bán hàng, vân vân.

09. Klarna sẽ có mặt trên thị trường vào năm 2025, nhưng có những dấu hiệu đang phóng đại giá trị của AI

strong>

Klarna là nhà cung cấp có trụ sở tại Thụy Điển dịch vụ mua theo nhu cầu đã huy động được gần 500 triệu USD kể từ khi thành lập vào năm 2005. tỷ USD bằng vốn đầu tư mạo hiểm.

Có lẽ không công ty nào có thể lên tiếng mạnh mẽ hơn về việc ứng dụng trí tuệ nhân tạo của mình hơn Klarna.

Chỉ vài ngày trước, Giám đốc điều hành Klarna, Sebastian Siemiatkowski, nói với Bloomberg rằng công ty đã ngừng tuyển dụng hoàn toàn nhân công và thay vào đó dựa vào trí tuệ nhân tạo sáng tạo Smart để hoàn thành công việc.

Như Siemiatkowski đã nói: "Tôi nghĩ trí tuệ nhân tạo đã có thể thực hiện tất cả công việc mà con người chúng ta làm."

Tương tự như vậy, đầu năm nay Klarna đã công bố rằng họ đã ra mắt một nền tảng dịch vụ khách hàng bằng trí tuệ nhân tạo đã tự động hóa hoàn toàn công việc của 700 nhân viên dịch vụ khách hàng.

Công ty cũng tuyên bố rằng họ đã ngừng sử dụng các sản phẩm phần mềm doanh nghiệp như Salesforce và Workday vì họ có thể thay thế chúng bằng trí tuệ nhân tạo một cách đơn giản.

Nói một cách thẳng thắn, những tuyên bố này không đáng tin cậy. Chúng phản ánh sự thiếu hiểu biết về khả năng và nhược điểm của các hệ thống AI ngày nay.

Những tuyên bố có thể thay thế bất kỳ nhân viên con người nào ở bất kỳ chức năng nào trong tổ chức bằng một tác nhân AI đầu cuối là không đáng tin cậy. Điều này tương đương với việc giải quyết vấn đề trí tuệ nhân tạo nói chung ở cấp độ con người.

Ngày nay, các công ty khởi nghiệp AI hàng đầu đang đi đầu trong lĩnh vực xây dựng hệ thống đại lý cho các công việc doanh nghiệp cụ thể, được xác định hẹp và có cấu trúc cao, dành cho tự động hóa quy trình. ví dụ: một tập hợp con của các hoạt động đại diện phát triển bán hàng hoặc đại lý dịch vụ khách hàng.

Ngay cả trong những tình huống phạm vi hẹp này, các hệ thống proxy này vẫn chưa hoạt động hoàn toàn đáng tin cậy, mặc dù trong một số trường hợp, chúng đã bắt đầu hoạt động đủ tốt để ứng dụng thương mại sớm.

Tại sao Klarna lại phóng đại giá trị của trí tuệ nhân tạo?

Câu trả lời rất đơn giản. Công ty có kế hoạch IPO vào nửa đầu năm 2025. Chìa khóa để IPO thành công là có một câu chuyện AI hấp dẫn.

Klarna vẫn là một doanh nghiệp thua lỗ, thua lỗ 241 triệu USD vào năm ngoái và có thể họ đang hy vọng rằng câu chuyện AI của mình sẽ thuyết phục được các nhà đầu tư trên thị trường đại chúng rằng họ tin vào khả năng của mình. khả năng giảm đáng kể chi phí và đạt được lợi nhuận lâu dài.

Chắc chắn rằng mọi công ty trên thế giới, bao gồm cả Klarna, sẽ được hưởng những cải tiến năng suất to lớn do trí tuệ nhân tạo mang lại trong vài năm tới. Nhưng còn nhiều thách thức hóc búa về mặt kỹ thuật, sản phẩm và tổ chức cần được giải quyếttrước khi các tác nhân AI có thể thay thế hoàn toàn con người trong lực lượng lao động.

Những tuyên bố cường điệu như của Klarna là sự báng bổ đối với lĩnh vực trí tuệ nhân tạo và thành tựu của các chuyên gia công nghệ trí tuệ nhân tạo và các doanh nhân trong việc phát triển các tác nhân trí tuệ nhân tạo. khó tiến bộ.

Khi Klarna chuẩn bị chào bán cổ phiếu ra công chúng vào năm 2025, dự kiến ​​những tuyên bố này sẽ phải chịu sự giám sát chặt chẽ hơn và sự hoài nghi của công chúng, và cho đến nay chúng hầu như chưa bị nghi ngờ . Đừng ngạc nhiên nếu một số mô tả của công ty về các ứng dụng AI của họ bị phóng đại quá mức.

10. Sự cố an toàn AI thực sự đầu tiên sẽ xảy ra

Khi trí tuệ nhân tạo trở nên mạnh mẽ hơn trong những năm gần đây, ngày càng có nhiều lo ngại rằng hệ thống AI có thể bắt đầu hành động theo những cách không phù hợp với hành vi của con người. và con người có thể mất quyền kiểm soát các hệ thống này.

Ví dụ: hãy tưởng tượng một hệ thống AI học cách đánh lừa hoặc thao túng con người để đạt được mục tiêu của mình, ngay cả khi những mục tiêu đó có hại cho con người Gây hại. Những mối lo ngại này thường được phân loại là vấn đề "an toàn AI".

Trong những năm gần đây, an toàn trí tuệ nhân tạo đã chuyển từ một chủ đề gần như khoa học viễn tưởng sang một lĩnh vực hoạt động chính thống.

Ngày nay, mọi công ty AI lớn, từ Google, Microsoft đến OpenAI, đều đã đầu tư nguồn lực đáng kể vào nỗ lực đảm bảo an toàn cho AI. Những biểu tượng trí tuệ nhân tạo như Geoff Hinton, Yoshua Bengio và Elon Musk cũng đã bắt đầu bày tỏ quan điểm của mình về những rủi ro an toàn của trí tuệ nhân tạo.

Tuy nhiên, cho đến nay, vấn đề an toàn trí tuệ nhân tạo vẫn hoàn toàn mang tính lý thuyết. Chưa bao giờ có một sự cố an toàn AI thực sự nào trong thế giới thực (ít nhất là chưa có sự cố nào được báo cáo công khai).

2025 sẽ là năm thay đổi tình trạng này. Sự cố an ninh trí tuệ nhân tạo đầu tiên sẽ như thế nào?

Nói rõ hơn, nó sẽ không liên quan đến các robot sát thủ kiểu Kẻ hủy diệt, có khả năng sẽ không gây hại cho con người.

Có lẽ mô hình AI sẽ cố gắng bí mật tạo một bản sao của chính nó trên một máy chủ khác để bảo quản chính nó (gọi là tự lọc).

Hoặc có thể mô hình AI sẽ đi đến kết luận rằng để đạt được mục tiêu được giao một cách tốt nhất, nó cần phải che giấu danh tính thực sự của mình khỏi khả năng của con người, cố tình đánh giá thấp hiệu quả hoạt động để tránh sự giám sát chặt chẽ hơn.

Những ví dụ này không hề xa vời. Các thí nghiệm quan trọng được Apollo Research công bố đầu tháng này cho thấy các mô hình tiên tiến ngày nay có khả năng đánh lừa như vậy khi được đưa ra các tín hiệu cụ thể.

Tương tự, nghiên cứu gần đây về Nhân chủng học cũng cho thấy LLM có khả năng "giả liên kết" đáng lo ngại.

Chúng tôi dự đoán rằng sự cố bảo mật AI đầu tiên này sẽ được phát hiện và loại bỏ trước khi gây ra bất kỳ tổn hại thực sự nào. Nhưng đó sẽ là một khoảnh khắc mở mang tầm mắt cho cộng đồng AI và xã hội nói chung.

Nó sẽ làm rõ một điều: Trước khi nhân loại phải đối mặt với mối đe dọa hiện hữu từ trí tuệ nhân tạo toàn năng, chúng ta cần chấp nhận một thực tế trần tục hơn:Bây giờ chúng ta chia sẻ thế giới của chúng ta bằng một dạng trí thông minh khác, đôi khi có thể cố ý, khó đoán và lừa đảo.