Một giám đốc điều hành khác của OpenAI đã rời đi

Miles Brundage, Cố vấn cấp cao về Sẵn sàng ứng dụng AGI của OpenAI, đã từ chức sau sáu năm gắn bó với tổ chức này.

Trong một bài đăng trênX (trước đây gọi là Twitter) và mộtbài luận được chia sẻ qua bản tin của ông, Brundage bày tỏ niềm tin rằng ông có thể tạo ra tác động lớn hơn với tư cách là nhà nghiên cứu và người ủng hộ trong lĩnh vực phi lợi nhuận, nơi ông cảm thấy mình có thể "xuất bản một cách tự do".

Ông có kế hoạch tập trung vào nghiên cứu chính sách AI bên ngoài ngành công nghệ.

Brundage bày tỏ:

“Một phần khiến đây trở thành quyết định khó khăn là vì làm việc tại OpenAI là một cơ hội có tác động cực kỳ lớn, hơn bao giờ hết. OpenAI cần những nhân viên thực sự quan tâm đến sứ mệnh và cam kết duy trì văn hóa ra quyết định nghiêm ngặt về phát triển và triển khai (bao gồm cả triển khai nội bộ, điều này sẽ ngày càng trở nên quan trọng theo thời gian).”

Động thái của anh ấy diễn ra vào thời điểmOpenAI của CEO Sam Altman đang phải vật lộn với các vấn đề nội bộ và chuyển đổi, chẳng hạn như giới thiệu các sản phẩm mới như mô hình nhất quán để thúc đẩy sự phát triển của AI.

Thời gian của Brundage tại OpenAI

Brundage gia nhập OpenAI vào năm 2018, nơi ông đóng vai trò quan trọng trong việc giải quyết các vấn đề về chính sách và an toàn liên quan đến các hệ thống AI tiên tiến như ChatGPT.

Những nỗ lực của ông tập trung vào việc quản lý và triển khai có trách nhiệm các công nghệ này.

Trước khi làm việc tại OpenAI, Brundage là nghiên cứu viên tại Viện Tương lai Nhân loại thuộc Đại học Oxford.

Trong suốt thời gian làm việc tại OpenAI, Brundage đã đóng góp đáng kể vào sự phát triển của chương trình nhóm đỏ của công ty và đóng vai trò quan trọng trong việc tạo ra các báo cáo "thẻ hệ thống" đánh giá điểm mạnh và điểm yếu của các mô hình AI.

Là một phần của nhóm sẵn sàng AGI, ông nhấn mạnh việc triển khai có đạo đức các hệ thống tạo ngôn ngữ và cung cấp hướng dẫn cho các giám đốc điều hành, bao gồmNgười thay thế về các vấn đề đạo đức liên quan đến AI.

Brundage đã giúp xây dựng văn hóa an toàn vững chắc trong tổ chức trong giai đoạn tăng trưởng quan trọng.

Khi hồi tưởng lại trải nghiệm của mình, Brundage mô tả thời gian làm việc tại OpenAI là một cơ hội có tác động lớn, đồng thời thừa nhận những khó khăn khi đưa ra quyết định từ chức.

Ông ca ngợi sứ mệnh của công ty đồng thời ủng hộ việc đưa nhiều nhà nghiên cứu độc lập hơn vào các cuộc thảo luận về chính sách AI.

Việc từ chức liên tục tại OpenAI hiện đã trở thành chuẩn mực

Việc Brundage từ chức diễn ra trong bối cảnh có sự thay đổi đáng kể về mặt lãnh đạo tại OpenAI, với sự ra đi của CTO Mira Murati, Giám đốc nghiên cứu Bob McGrew và Phó chủ tịch nghiên cứu Barret Zoph trong những tuần gần đây.

Đầu năm nay, nhà khoa học nghiên cứu nổi tiếng Andrej Karpathy đã rời đi, tiếp theo làđồng sáng lập và cựu Trưởng khoa học gia Ilya Sutskever và cựu trưởng nhóm an toàn Jan Leike.

Vào tháng 8, nhà đồng sáng lập John Schulman đã tuyên bố rời đi và Greg Brockman, chủ tịch công ty, hiện đang tạm nghỉ phép dài hạn.

Thêm vào sự hỗn loạn, một bài viết gần đây trên tờ New York Times đã nêu bật cựu nhà nghiên cứu OpenAI Suchir Balaji, người đã rời đi vì lo ngại rằng các công nghệ mà ông đang giúp phát triển có thể gây hại cho xã hội nhiều hơn là mang lại lợi ích.

Balaji đã viết một bài đăng trên blog vào ngày 23 tháng 10 về những chi tiết cụ thể của việc sử dụng hợp lý và AI tạo ra.

Để đáp lại sự ra đi của Brundage,Người thay thế bày tỏ sự ủng hộ đối với quyết định của ông, cho rằng công trình nghiên cứu chính sách đối ngoại sắp tới của Brundage sẽ có lợi cho OpenAI.

Tuy nhiên, những lời chỉ trích gần đây từ các cựu nhân viên và thành viên hội đồng quản trị cho thấy OpenAI ngày càng coi trọng lợi ích thương mại hơn là sự an toàn của AI.

Trong bài đăng của mình trênX Brundage khuyến khích nhân viên OpenAI "nói lên suy nghĩ của mình" về cách tổ chức có thể cải thiện, đặt ra những câu hỏi quan trọng về định hướng tương lai của công ty và cam kết phát triển AI có trách nhiệm.

Ông viết:

“Một số người nói với tôi rằng họ buồn khi tôi rời đi và đánh giá cao việc tôi thường sẵn sàng nêu lên những lo ngại hoặc câu hỏi khi tôi còn ở đây… OpenAI còn rất nhiều quyết định khó khăn phía trước và sẽ không đưa ra quyết định đúng đắn nếu chúng tôi khuất phục trước tư duy theo nhóm.”

Brundage sẽ làm gì tiếp theo?

Sau sự ra đi của Brundage, bộ phận nghiên cứu kinh tế của OpenAI, trước đây là một phần của nhóm sẵn sàng AGI, hiện sẽ hoạt động dưới sự lãnh đạo của Ronnie Chatterji, nhà kinh tế trưởng mới được bổ nhiệm.

Khi nhóm chuẩn bị AGI kết thúc, các dự án còn lại sẽ được phân bổ lại cho các bộ phận khác trong OpenAI, với Joshua Achiam, người đứng đầu bộ phận liên kết nhiệm vụ, sẽ giám sát một số sáng kiến ​​này.

Người phát ngôn của OpenAI bày tỏ sự ủng hộ hoàn toàn đối với quyết định theo đuổi nghiên cứu chính sách bên ngoài ngành của Brundage, nhấn mạnh lòng biết ơn đối với những đóng góp quan trọng của ông. https://www.coinlive.com/news/openai-sounds-alarm-on-its-ai-models-being-used-in

Người phát ngôn cho biết trong một tuyên bố:

“Kế hoạch của Brundage là tập trung toàn lực vào nghiên cứu độc lập về chính sách AI, mang đến cho ông cơ hội tạo ra tác động trên phạm vi rộng hơn và chúng tôi rất vui mừng được học hỏi từ công trình của ông và theo dõi tác động của nó. Chúng tôi tin tưởng rằng trong vai trò mới của mình, Miles sẽ tiếp tục nâng cao tiêu chuẩn về chất lượng hoạch định chính sách trong ngành và chính phủ.”

Tuy nhiên, người phát ngôn không tiết lộ ai sẽ đảm nhận trách nhiệm của Brundage.

Brundage có kế hoạch tập trung vào quy định về AI, tác động kinh tế của nó và tính an toàn trong tương lai của AI.

Ông tin rằng những lĩnh vực này rất quan trọng để giải quyết những thách thức do các ứng dụng AI đặt ra, đặc biệt liên quan đến các mô hình như mô hình nhất quán.

Sự thay đổi của ông nhấn mạnh tầm quan trọng ngày càng tăng của việc quản trị AI có trách nhiệm và tác động của nó đối với toàn ngành.

Altman Ra Mắt Các Mô Hình Nhất Quán Và Cập Nhật AI Trong Bối Cảnh Bất Ổn Đang Diễn Ra

Song song đó,OpenAI của Altman đã công bố các mô hình nhất quán, một phương pháp nhằm đẩy nhanh quá trình lấy mẫu trong AI.

Các mô hình này được thiết kế để tạo ra các mẫu chất lượng cao nhanh hơn so với các mô hình khuếch tán truyền thống, đánh dấu bước tiến đáng kể trong công nghệ AI.

Sự ra mắt này phù hợp với chiến lược rộng hơn của OpenAI nhằm nâng cao năng lực của mình đồng thời giải quyết các thách thức về hiệu quả, đặc biệt làsau khi nhận được khoản tài trợ 6,6 tỷ đô la.

Tuy nhiên, việc giới thiệu các mô hình này diễn ra trong bối cảnh hoạt động của công ty ngày càng bị giám sát chặt chẽ, đặc biệt là các cáo buộc vi phạm bản quyền liên quan đến việc đào tạo người mẫu.

Các cựu nhân viên của OpenAI, bao gồm Balaji, đã lên tiếng bày tỏ lo ngại về các phương pháp của công ty, làm dấy lên cuộc tranh luận rộng rãi hơn về việc quản lý các công nghệ AI.

Balaji đã cáo buộc cụ thể OpenAI vi phạm bản quyền bằng cách sử dụng dữ liệu được bảo vệ bằng IP để đào tạo mà không xin phép, một khiếu nại được nhiều người khác nêu ra trong các vụ kiện tập thể đang diễn ra chống lại tổ chức này.

Liệu những thay đổi này, bao gồm cả sự ra đi liên tục của các nhà lãnh đạo cấp cao, có ảnh hưởng đếnQuỹ đạo tương lai của OpenAI?