Tôn giáo cay đắng: Thánh chiến của trí tuệ nhân tạo về quy luật mở rộng

Tác giả bài viết: Mario Gabriele Tổng hợp bài viết: Block Unicorn

Cuộc thánh chiến của trí tuệ nhân tạo

Tôi thà sống cuộc đời mình như thể có Chúa và đợi đến khi chết mới phát hiện ra rằng Chúa không tồn tại, còn hơn là sống như thể không có Chúa và đợi đến khi chết mới phát hiện ra rằng Chúa có tồn tại. —— Blaise Pascal

Tôn giáo là một điều thú vị. Có thể bởi vì nó hoàn toàn không thể chứng minh được theo bất kỳ hướng nào, hoặc có thể nó giống như câu nói yêu thích của tôi: "Bạn không thể đấu tranh với sự thật để chống lại cảm xúc."

Đặc điểm của niềm tin tôn giáo là trong quá trình đức tin trỗi dậy, họ tăng tốc với tốc độ đáng kinh ngạc đến mức gần như không thể nghi ngờ về sự tồn tại của Chúa. Làm sao bạn có thể nghi ngờ một đấng thiêng liêng khi mọi người xung quanh bạn ngày càng tin vào điều đó? Khi thế giới tự sắp xếp lại xung quanh một học thuyết, đâu là chỗ cho tà giáo? Khi các đền chùa, thánh đường, luật pháp và quy tắc được sắp xếp theo một phúc âm mới, không thể lay chuyển, thì đâu là chỗ cho sự phản đối?

Khi các tôn giáo Áp-ra-ham lần đầu tiên xuất hiện và lan rộng khắp các châu lục, hoặc khi Phật giáo lan truyền từ Ấn Độ sang khắp châu Á, động lực to lớn của đức tin đã tạo ra một chu kỳ tự củng cố. Khi ngày càng có nhiều người cải đạo, và các nền thần học cũng như nghi lễ phức tạp được xây dựng xung quanh những niềm tin này, việc đặt câu hỏi về những tiền đề cơ bản này ngày càng trở nên khó khăn hơn. Không dễ để trở thành một kẻ dị giáo trong biển cả tin. Những nhà thờ tráng lệ, những văn bản tôn giáo phức tạp và những tu viện thịnh vượng đều là bằng chứng vật chất về sự hiện diện của thần thánh.

Nhưng lịch sử tôn giáo cũng cho chúng ta thấy những cấu trúc như vậy có thể sụp đổ dễ dàng như thế nào. Khi Cơ đốc giáo lan rộng sang Scandinavia, đức tin Bắc Âu cổ đại đã sụp đổ chỉ sau vài thế hệ. Hệ thống tôn giáo của Ai Cập cổ đại tồn tại hàng nghìn năm, cuối cùng biến mất khi những tín ngưỡng mới, lâu dài hơn xuất hiện và các cơ cấu quyền lực lớn hơn xuất hiện. Ngay cả trong cùng một tôn giáo, chúng ta cũng thấy những cuộc ly giáo đầy kịch tính—Cuộc Cải cách đã xé nát Cơ đốc giáo phương Tây, và Cuộc ly giáo lớn đã chia rẽ các giáo hội Đông phương và Tây phương. Những sự ly giáo này thường bắt đầu bằng những khác biệt về mặt học thuyết có vẻ tầm thường và phát triển thành những hệ thống niềm tin hoàn toàn khác nhau.

Kinh thánh

Thiên Chúa vượt trên tất cả Ẩn dụ về các cấp độ tư duy trí tuệ. Thật đơn giản. --Joseph Campbell

Nói một cách đơn giản, niềm tin vào Chúa là tôn giáo. Có lẽ việc tạo ra Chúa cũng không khác.

Kể từ khi thành lập, các nhà nghiên cứu AI lạc quan đã tưởng tượng công việc của họ là người theo chủ nghĩa sáng tạo—tức là sự sáng tạo của Chúa. Sự phát triển bùng nổ của các mô hình ngôn ngữ lớn (LLM) trong vài năm qua đã củng cố thêm niềm tin của các tín đồ rằng chúng ta đang đi trên con đường thiêng liêng.

Nó cũng xác nhận một bài đăng blog được viết vào năm 2019. Mặc dù nó chưa được biết đến đối với những người ngoài lĩnh vực trí tuệ nhân tạo cho đến gần đây, nhưng "Bài học cay đắng" của nhà khoa học máy tính người Canada Richard Sutton đã trở thành một văn bản ngày càng quan trọng trong cộng đồng, phát triển từ những kiến ​​thức mơ hồ thành một nền tảng tôn giáo mới, toàn diện.

Trong 1.113 từ (mọi tôn giáo đều yêu cầu những con số thiêng liêng), Sutton tóm tắt một quan sát kỹ thuật: "Từ 70 năm nghiên cứu trí tuệ nhân tạo. Bài học lớn nhất có thể học được là rằng việc tận dụng cách tiếp cận chung đối với điện toán cuối cùng là hiệu quả nhất và là một lợi thế to lớn "Những tiến bộ trong các mô hình trí tuệ nhân tạo đã được thúc đẩy bởi sự gia tăng theo cấp số nhân của tài nguyên máy tính, thúc đẩy làn sóng lớn của Định luật Moore." Đồng thời, Sutton lưu ý, phần lớn công việc nghiên cứu AI tập trung vào việc tối ưu hóa hiệu suất thông qua các kỹ thuật chuyên biệt — nâng cao kiến ​​thức của con người hoặc các công cụ hẹp. Mặc dù những tối ưu hóa này có thể hữu ích trong thời gian ngắn nhưng Sutton coi chúng cuối cùng là sự lãng phí thời gian và nguồn lực, chẳng hạn như điều chỉnh vây của ván lướt sóng hoặc thử loại sáp mới khi một cơn sóng lớn ập đến.

Đây là nền tảng của cái mà chúng tôi gọi là “tôn giáo cay đắng”. Nó chỉ có một điều răn duy nhất, thường được cộng đồng gọi là "Luật mở rộng quy mô": Sự tăng trưởng theo cấp số nhân trong tính toán thúc đẩy hiệu suất; phần còn lại là sự ngu ngốc.

Tôn giáo cay đắng kéo dài từ các mô hình ngôn ngữ lớn (LLM) đến các mô hình thế giới và bây giờ thông qua sinh học, hóa học và trí thông minh hiện thân (robot và phương tiện tự động) Những ngôi đền chưa được cải đạo này lan rộng liên tục.

Tuy nhiên, khi học thuyết Sarton lan rộng, định nghĩa bắt đầu thay đổi. Đây là đặc điểm nổi bật của tất cả các tôn giáo tích cực và quan trọng—luận cứ, mở rộng, chú giải. "Định luật mở rộng quy mô" không còn chỉ có nghĩa là tính toán mở rộng quy mô (Ark không chỉ là một con tàu), giờ đây nó còn đề cập đến nhiều phương pháp khác nhau được thiết kế để cải thiện hiệu suất máy biến áp và tính toán, cùng với một số thủ thuật được đưa vào.

Giờ đây, Classics bao gồm các nỗ lực tối ưu hóa mọi phần của nhóm AI, từ các kỹ thuật được áp dụng cho chính các mô hình cốt lõi (mô hình hợp nhất, hỗn hợp các chuyên gia (MoE) và sàng lọc kiến ​​thức) cho đến việc tạo ra dữ liệu tổng hợp để nuôi sống những vị thần luôn khao khát này, cùng với vô số thử nghiệm ở giữa.

Warring Cults

Gần đây, trong cộng đồng trí tuệ nhân tạo Một câu hỏi được đặt ra, mang hơi hướng thánh chiến, là liệu “tôn giáo cay đắng” có còn đúng hay không.

Mâu thuẫn đã bùng lên trong tuần này khi xuất bản một bài báo mới có tên "Mở rộng các định luật chính xác" từ Harvard, Stanford và MIT. Bài viết thảo luận về mục đích đạt được hiệu quả kỹ thuật từ việc định lượng, một tập hợp các kỹ thuật giúp cải thiện hiệu suất của các mô hình trí tuệ nhân tạo và mang lại lợi ích to lớn cho hệ sinh thái nguồn mở. Tim Dettmers, một nhà khoa học nghiên cứu tại Viện Trí tuệ nhân tạo Allen, đã nêu ra tầm quan trọng của nó trong bài đăng dưới đây, gọi đây là “bài báo quan trọng nhất trong một thời gian dài”. Nó thể hiện sự tiếp nối của một cuộc trò chuyện đang nóng lên trong vài tuần qua và cho thấy một xu hướng đáng chú ý: sự hợp nhất ngày càng tăng của hai tôn giáo.

Giám đốc điều hành OpenAI Sam Altman và Giám đốc điều hành Anthropic Dario Amodei thuộc cùng một giáo phái. Cả hai người đều tự tin tuyên bố rằng chúng ta sẽ đạt được trí tuệ nhân tạo tổng hợp (AGI) trong khoảng 2-3 năm nữa. Cả Altman và Amodei đều được cho là hai nhân vật tin tưởng nhiều nhất vào sự thiêng liêng của “tôn giáo cay đắng”. Tất cả các ưu đãi của họ đều có xu hướng hứa hẹn quá mức, tạo ra sự cường điệu tối đa, nhằm tích lũy vốn trong một trò chơi gần như bị chi phối hoàn toàn bởi tính kinh tế theo quy mô. Nếu quy luật giãn nở không phải là “Alpha và Omega”, đầu tiên và cuối cùng, bắt đầu và kết thúc, thì bạn cần 22 tỷ USD để làm gì?

Cựu nhà khoa học trưởng của OpenAI Ilya Sutskever tuân thủ một bộ nguyên tắc khác. Anh ấy tham gia cùng các nhà nghiên cứu khác, bao gồm nhiều người trong OpenAI dựa trên những rò rỉ gần đây, những người tin rằng việc mở rộng quy mô đang tiến gần đến mức trần. Nhóm này tin rằng khoa học và nghiên cứu mới sẽ là cần thiết để duy trì sự tiến bộ và đưa AGI vào thế giới thực.

Phe Sutskever đã lập luận đúng rằng quan điểm tiếp tục mở rộng của phe Altman là không khả thi về mặt kinh tế. Như nhà nghiên cứu AI Noam Brown hỏi: “Rốt cuộc, chúng ta có thực sự muốn đào tạo các mô hình trị giá hàng trăm tỷ hay hàng nghìn tỷ đô la được chi cho điện toán suy luận không?”

Nhưng những người tin tưởng thực sự rất quen thuộc với lập luận của đối thủ. Nhà truyền giáo trước cửa nhà bạn có thể xử lý bộ ba vấn đề theo chủ nghĩa khoái lạc của bạn một cách dễ dàng. Đối với Brown và Sutskever, Sutskever Pai đã chỉ ra khả năng mở rộng "các phép tính trong thời gian thử nghiệm". Không giống như những gì đã xảy ra cho đến nay, Tính toán trong Kiểm tra không dựa vào các phép tính lớn hơn để cải thiện quá trình đào tạo mà thay vào đó dành nhiều nguồn lực hơn cho việc thực thi. Khi mô hình AI cần trả lời câu hỏi của bạn hoặc tạo một đoạn mã hoặc văn bản, nó có thể cung cấp nhiều thời gian và tính toán hơn. Nó tương đương với việc bạn chuyển sự tập trung từ việc ôn thi môn toán sang thuyết phục giáo viên cho bạn thêm một giờ và cho phép bạn mang theo máy tính. Đối với nhiều người trong hệ sinh thái, đây là biên giới mới của “tôn giáo cay đắng”, khi các nhóm đang chuyển từ phương pháp đào tạo trước chính thống sang phương pháp tiếp cận sau đào tạo/suy luận.

Thật dễ dàng để chỉ ra những sai sót trong các hệ thống niềm tin khác và chỉ trích những giáo lý khác mà không bộc lộ quan điểm của riêng bạn. Vậy niềm tin của riêng tôi là gì? Đầu tiên, tôi tin rằng loạt mẫu xe hiện tại sẽ mang lại lợi tức đầu tư rất cao theo thời gian. Khi mọi người tìm hiểu cách khắc phục các hạn chế và tận dụng các API hiện có, chúng ta sẽ thấy những trải nghiệm sản phẩm thực sự đổi mới xuất hiện và thành công. Chúng tôi sẽ vượt qua giai đoạn đa dạng và gia tăng của các sản phẩm AI. Chúng ta không nên coi nó là “trí thông minh tổng hợp nhân tạo” (AGI), vì định nghĩa đó bị đóng khung bởi những sai sót, mà là “trí thông minh khả thi tối thiểu” có thể được tùy chỉnh cho các sản phẩm và trường hợp sử dụng khác nhau.

Đối với việc hiện thực hóa trí tuệ siêu nhân tạo (ASI), cần có nhiều cấu trúc hơn. Các định nghĩa và phân chia rõ ràng hơn sẽ giúp chúng ta thảo luận hiệu quả hơn về sự cân bằng giữa giá trị kinh tế và chi phí kinh tế mà mỗi định nghĩa có thể mang lại. Ví dụ: AGI có thể cung cấp giá trị kinh tế cho một nhóm nhỏ người dùng (chỉ là một phần hệ thống niềm tin), trong khi ASI có thể thể hiện những tác động tổng hợp không thể ngăn cản và thay đổi thế giới, hệ thống niềm tin và cơ cấu xã hội của chúng ta. Tôi không nghĩ ASI có thể thực hiện được chỉ với các máy biến áp mở rộng; nhưng thật không may, như một số người có thể nói, đó chỉ là niềm tin vô thần của tôi.

Mất niềm tin

Cộng đồng trí tuệ nhân tạo không thể thành công trong việc ngắn hạn Không có cơ sở để giải quyết cuộc thánh chiến này; không có cơ sở thực tế nào được trình bày trong trận chiến đầy cảm xúc này. Thay vào đó, chúng ta nên chuyển sự chú ý sang ý nghĩa của việc AI đặt câu hỏi về niềm tin của nó vào quy luật giãn nở. Sự mất niềm tin này có thể gây ra hiệu ứng lan tỏa ra ngoài các mô hình ngôn ngữ lớn (LLM), ảnh hưởng đến tất cả các ngành và thị trường.

Cần lưu ý rằng trong hầu hết các lĩnh vực trí tuệ nhân tạo/học máy, chúng ta vẫn chưa khám phá kỹ lưỡng các quy luật chia tỷ lệ; sẽ còn nhiều điều kỳ diệu hơn nữa sẽ xảy ra. Tuy nhiên, nếu nghi ngờ xuất hiện, các nhà đầu tư và nhà xây dựng sẽ khó duy trì mức độ tin cậy cao như cũ về trạng thái hiệu suất cuối cùng của các danh mục "đầu đường cong" như công nghệ sinh học và robot. Nói cách khác, nếu chúng ta thấy các mô hình ngôn ngữ lớn bắt đầu chậm lại và đi chệch khỏi con đường mình đã chọn thì hệ thống niềm tin của nhiều nhà sáng lập và nhà đầu tư ở các khu vực lân cận sẽ sụp đổ.

Liệu điều này có công bằng hay không lại là một câu hỏi khác.

Có quan điểm cho rằng "trí tuệ nhân tạo nói chung" đương nhiên đòi hỏi quy mô lớn hơn nên "chất lượng" của các mô hình chuyên dụng nên ở quy mô nhỏ hơn để chúng ít có khả năng gặp phải tắc nghẽn trước khi mang lại giá trị thực. Nếu một mô hình dành riêng cho miền chỉ sử dụng một phần dữ liệu và do đó chỉ yêu cầu một phần tài nguyên máy tính để khả thi, thì liệu có còn nhiều chỗ để cải thiện không? Điều này có ý nghĩa trực quan, nhưng chúng tôi liên tục nhận thấy rằng chìa khóa thường không có ở đó: việc bao gồm dữ liệu có liên quan hoặc dường như không liên quan thường có thể cải thiện hiệu suất của các mô hình dường như không liên quan. Ví dụ, việc bao gồm dữ liệu lập trình dường như giúp cải thiện khả năng suy luận rộng hơn.

Về lâu dài, cuộc tranh luận về mô hình chuyên môn hóa có thể không còn phù hợp. Mục tiêu cuối cùng của bất kỳ ai xây dựng ASI (trí tuệ nhân tạo) có thể là một thực thể có khả năng tự nhân rộng, tự cải thiện với khả năng sáng tạo không giới hạn trong nhiều lĩnh vực khác nhau. Holden Karnofsky, cựu thành viên hội đồng OpenAI và người sáng lập Open Philanthropy, gọi sáng tạo này là “PASTA” (Quy trình tự động hóa sự tiến bộ của khoa học và công nghệ). Kế hoạch lợi nhuận ban đầu của Sam Altman dường như dựa trên một nguyên tắc tương tự: “Xây dựng một AGI và sau đó hỏi xem nó được khen thưởng như thế nào”. Đây là AI mang tính cánh chung, vận mệnh cuối cùng của nó.

Sự thành công của các phòng thí nghiệm AI lớn như OpenAI và Anthropic đã truyền cảm hứng cho thị trường vốn hỗ trợ các phòng thí nghiệm như "OpenAI in X". Mục tiêu dài hạn là. để xây dựng "AGI" xung quanh ngành hoặc miền cụ thể của ngành. Phép ngoại suy của việc phân chia quy mô này sẽ dẫn đến sự thay đổi mô hình từ mô phỏng OpenAI và hướng tới các công ty tập trung vào sản phẩm – một khả năng mà tôi đã nêu ra tại hội nghị thường niên năm 2023 của Hợp chất.

Không giống như mô hình cánh chung, các công ty này phải thể hiện một loạt tiến bộ. Họ sẽ là những công ty được xây dựng dựa trên các vấn đề kỹ thuật quy mô, chứ không phải là các tổ chức khoa học thực hiện nghiên cứu ứng dụng với mục tiêu cuối cùng là tạo ra sản phẩm.

Trong khoa học, nếu bạn biết mình đang làm gì thì bạn không nên làm việc đó. Trong ngành kỹ thuật, nếu bạn không biết mình đang làm gì thì bạn không nên làm việc đó. —Richard Hamming

Các tín đồ khó có thể sớm mất đi đức tin thiêng liêng của mình. Như đã đề cập trước đó, khi các tôn giáo phát triển, họ đã hệ thống hóa một kịch bản cho cuộc sống và sự thờ phượng cũng như một loạt các phương pháp phỏng đoán. Họ đã xây dựng những tượng đài và cơ sở hạ tầng vật chất để củng cố quyền lực và trí thông minh của họ, đồng thời chứng tỏ rằng họ “biết mình đang làm gì”.

Trong một cuộc phỏng vấn gần đây, Sam Altman đã nói điều này về AGI (nhấn mạnh vào chúng tôi):

Lần đầu tiêntôi cảm thấychúng tôi thực sự biết phải làm gì. Vẫn còn rất nhiều việc phải làm đểxây dựng AGI từ giờ đến lúc đó. Chúng tôi biết có một số điều chưa biết, nhưngtôi nghĩ về cơ bản chúng tôi biết phải làm gìvà việc này sẽ mất một thời gian; việc này sẽ khó khăn nhưng cũng rất thú vị.

Phán xét

Khi đặt câu hỏi về "Tôn giáo cay đắng" , những người hoài nghi về phần mở rộng đang tính đến một trong những cuộc thảo luận sâu sắc nhất trong vài năm qua. Mỗi người trong chúng ta đều đã từng nghĩ như vậy vào lúc này hay lúc khác. Điều gì sẽ xảy ra nếu chúng ta phát minh ra Chúa? Chúa sẽ xuất hiện trong bao lâu? Điều gì sẽ xảy ra nếu AGI (Trí tuệ tổng hợp nhân tạo) thực sự xuất hiện và không thể đảo ngược?

Giống như tất cả các chủ đề phức tạp và chưa biết, chúng ta nhanh chóng lưu giữ những phản ứng cụ thể của mình trong não: một phần trong chúng ta cảm thấy rằng chúng sắp trở nên vô nghĩa, trong khi hầu hết chúng ta đều cảm thấy tuyệt vọng. dự đoán sự kết hợp giữa hủy diệt và thịnh vượng, và một tỷ lệ phần trăm cuối cùng dự đoán sự phong phú thuần túy khi con người làm những gì chúng ta làm tốt nhất, tiếp tục tìm ra các vấn đề để giải quyết và giải quyết các vấn đề do chính chúng ta tạo ra.

Bất kỳ ai có cổ phần lớn đều muốn có thể dự đoán thế giới sẽ như thế nào đối với họ nếu quy luật mở rộng quy mô được giữ nguyên và AGI sẽ xuất hiện sau vài năm nữa . Bạn sẽ phục vụ Đức Chúa Trời mới này như thế nào và Đức Chúa Trời mới này sẽ phục vụ bạn như thế nào?

Nhưng điều gì sẽ xảy ra nếu phúc âm trì trệ xua đuổi những người lạc quan? Điều gì sẽ xảy ra nếu chúng ta bắt đầu nghĩ rằng có thể ngay cả Chúa cũng đang sa sút? Trong bài viết trước "Robotics FOMO, Quy luật Dự báo Quy mô và Công nghệ", tôi đã viết:

Đôi khi tôi tự hỏi liệu quy luật giãn nở có giữ được điều gì không? sẽ xảy ra, liệu điều này có tương tự như tác động của việc mất doanh thu, tăng trưởng chậm hơn và lãi suất tăng cao đối với nhiều lĩnh vực công nghệ. Đôi khi tôi cũng tự hỏi liệu quy luật chia tỷ lệ có đúng hay không và liệu điều này có giống với đường cong hàng hóa hóa của những người tiên phong trong nhiều lĩnh vực khác và việc nắm bắt giá trị của họ hay không.

"Điểm hay của chủ nghĩa tư bản là dù thế nào đi chăng nữa, chúng ta vẫn chi rất nhiều tiền để tìm hiểu."

Đối với người sáng lập và nhà đầu tư, câu hỏi sẽ trở thành: Điều gì xảy ra tiếp theo? Các ứng viên ở mọi ngành dọc có tiềm năng trở thành người xây dựng sản phẩm tuyệt vời đang ngày càng được biết đến. Sẽ còn nhiều điều tương tự như vậy nữa trong ngành, nhưng câu chuyện đã bắt đầu hé mở. Những cơ hội mới đến từ đâu?

Nếu việc mở rộng bị đình trệ, tôi dự đoán sẽ thấy một làn sóng đóng cửa và sáp nhập. Các công ty còn lại sẽ ngày càng chuyển trọng tâm sang kỹ thuật, một sự phát triển mà chúng ta nên dự đoán bằng cách theo dõi dòng nhân tài. Chúng tôi đã thấy một số dấu hiệu cho thấy OpenAI đang đi theo hướng này khi nó ngày càng tự sản xuất ra nhiều sản phẩm hơn. Sự thay đổi này sẽ mở ra không gian cho thế hệ khởi nghiệp tiếp theo vượt trội hơn những công ty đương nhiệm trong nỗ lực tạo ra những con đường mới bằng cách dựa vào khoa học và nghiên cứu ứng dụng đổi mới thay vì kỹ thuật.

Bài học tôn giáo

Quan điểm của tôi về công nghệ là bất cứ thứ gì dường như rõ ràng có tác động gộp thường không tồn tại được lâu và một điểm chung mà mọi người đưa ra là bất kỳ hoạt động kinh doanh nào dường như rõ ràng có tác động gộp, thật kỳ lạ. đang phát triển với tốc độ và quy mô thấp hơn nhiều so với mong đợi.

Các dấu hiệu ban đầu của sự ly giáo tôn giáo thường tuân theo các mô hình có thể dự đoán được, dùng làm khuôn khổ để tiếp tục theo dõi sự phát triển của The Bitter Religion.

Nó thường bắt đầu với sự xuất hiện của những cách giải thích cạnh tranh nhau, cho dù vì lý do tư bản hay ý thức hệ. Trong Cơ đốc giáo thời kỳ đầu, những quan điểm khác nhau về thiên tính của Đấng Christ và bản chất của Chúa Ba Ngôi đã dẫn đến sự ly giáo, tạo ra những cách giải thích Kinh thánh rất khác nhau. Ngoài sự chia rẽ trong AI mà chúng tôi đã đề cập, còn có những rạn nứt khác đang nổi lên. Ví dụ: chúng tôi thấy một nhóm nhỏ các nhà nghiên cứu AI bác bỏ tính chính thống cốt lõi của máy biến áp và chuyển sang các kiến ​​trúc khác như Mô hình không gian trạng thái, Mamba, RWKV, Mô hình chất lỏng, v.v. Mặc dù hiện tại đây chỉ là những tín hiệu nhẹ nhàng nhưng chúng cho thấy sự khởi đầu của lối suy nghĩ dị giáo và sự sẵn sàng suy nghĩ lại lĩnh vực này từ những nguyên tắc đầu tiên của nó.

Theo thời gian, những nhận xét thiếu kiên nhẫn của nhà tiên tri cũng có thể khiến người dân mất lòng tin. Khi những lời tiên tri của các nhà lãnh đạo tôn giáo không thành hiện thực, hoặc sự can thiệp của Thiên Chúa không đến như đã hứa, điều đó sẽ gieo mầm mống nghi ngờ.

Phong trào Millerite đã tiên đoán về sự trở lại của Chúa Kitô vào năm 1844, nhưng phong trào này đã tan rã khi Chúa Giêsu không đến như kế hoạch. Trong thế giới công nghệ, chúng ta thường chôn vùi những lời tiên tri thất bại trong im lặng và cho phép các nhà tiên tri của chúng ta tiếp tục vẽ ra những phiên bản lạc quan, dài hạn về tương lai ngay cả khi thời hạn đã định nhiều lần bị bỏ lỡ (Xin chào, Elon). Tuy nhiên, niềm tin vào quy luật khai triển có thể gặp phải sự sụp đổ tương tự nếu không được hỗ trợ bởi những cải tiến liên tục trong hoạt động của mô hình ban đầu.

Một tôn giáo thối nát, cồng kềnh hoặc không ổn định dễ bị ảnh hưởng bởi những kẻ bội đạo. Cuộc Cải cách Tin lành có được chỗ đứng không chỉ vì quan điểm thần học của Luther, mà còn vì nó xuất hiện trong thời kỳ suy tàn và hỗn loạn của Giáo hội Công giáo. Khi những rạn nứt xuất hiện trong các thể chế chính thống, những ý tưởng “dị giáo” lâu đời bỗng nhiên tìm được mảnh đất màu mỡ.

Trong lĩnh vực trí tuệ nhân tạo, chúng tôi có thể xem xét các mô hình nhỏ hơn hoặc các phương pháp thay thế đạt được kết quả tương tự với ít tính toán hoặc dữ liệu hơn, chẳng hạn như từ Công việc được thực hiện bởi nhiều người khác nhau Các phòng thí nghiệm của công ty Trung Quốc và các nhóm nguồn mở như Nous Research. Những người vượt qua giới hạn của trí thông minh sinh học, vượt qua những trở ngại từ lâu được cho là không thể vượt qua, cũng có thể tạo ra một câu chuyện mới.

Cách trực tiếp và kịp thời nhất để quan sát sự khởi đầu của thay đổi là theo dõi chuyển động của những người thực hành. Trước bất kỳ cuộc ly giáo chính thức nào, các học giả tôn giáo và giáo sĩ thường duy trì quan điểm dị giáo một cách riêng tư trong khi tỏ ra tuân thủ trước công chúng. Tương đương ngày nay có thể là một số nhà nghiên cứu AI bề ngoài tuân theo các quy luật mở rộng nhưng bí mật theo đuổi các cách tiếp cận hoàn toàn khác, chờ đợi thời điểm thích hợp để thách thức sự đồng thuận hoặc rời khỏi phòng thí nghiệm của họ để tìm kiếm những chân trời rộng hơn về mặt lý thuyết.

Điều khó khăn về các tôn giáo và kỹ thuật chính thống là chúng thường đúng một phần, chỉ không đúng về mặt phổ quát như những tín đồ tận tụy nhất của chúng tin tưởng. Giống như các tôn giáo kết hợp những chân lý cơ bản của con người vào khuôn khổ siêu hình của họ, Luật Mở rộng mô tả rõ ràng cách thức hoạt động thực sự của việc học qua mạng lưới thần kinh. Câu hỏi đặt ra là liệu thực tế này có đầy đủ và bất biến như sự nhiệt tình hiện tại gợi ý hay không, và liệu các tổ chức tôn giáo (phòng thí nghiệm AI) này có đủ nhanh nhẹn và chiến lược để thu hút những người cuồng tín hay không. Đồng thời, xây dựng nền báo in (giao diện chat và API) cho phép lan tỏa tri thức, cho phép lan tỏa tri thức của mình.

Endgame

“Tôn giáo của những người bình thường Đúng trong mắt người khôn, giả trong mắt người khôn ngoan, hữu ích trong mắt kẻ thống trị” - Lucius Annaeus Seneca

Một quan điểm có lẽ đã lỗi thời về các tổ chức tôn giáo là một khi đạt đến một quy mô nhất định, chúng, giống như nhiều tổ chức do con người điều hành, có xu hướng khuất phục trước động cơ sinh tồn là cố gắng sống sót trong cuộc cạnh tranh. Trong quá trình đó, họ phớt lờ sự thật và những động cơ lớn lao (những thứ không loại trừ lẫn nhau).

Tôi đã viết một bài báo về việc thị trường vốn đã trở thành kén thông tin theo hướng tường thuật như thế nào và các biện pháp khuyến khích có xu hướng khiến những câu chuyện này tiếp tục. Sự đồng thuận về Quy luật mở rộng mang đến một cảm giác giống nhau đáng lo ngại – một hệ thống niềm tin đã ăn sâu, tinh tế về mặt toán học và cực kỳ hữu ích trong việc điều phối việc triển khai vốn quy mô lớn. Giống như nhiều khuôn khổ tôn giáo, nó có thể có giá trị hơn như một cơ chế điều phối hơn là một chân lý cơ bản.