Được viết bởi: Mạnh Yên

Gần đây có rất nhiều người hỏi tôi, ChatGPT đã khiến AI trở nên phổ biến trở lại, blockchain và Web3 đã bị cướp mất ánh đèn sân khấu, liệu sẽ có kịch tính gì trong tương lai? Một người bạn hiểu tôi hơn đã hỏi, bạn có hối hận khi từ bỏ AI chọn blockchain không?

Đây là một nền tảng nhỏ. Sau khi rời IBM vào đầu năm 2017, tôi đã thảo luận với Jiang Tao, người sáng lập CSDN về hướng phát triển cá nhân tiếp theo của mình, có hai lựa chọn, một là AI và hai là blockchain. Bản thân tôi đã nghiên cứu về blockchain trong hai năm vào thời điểm đó, vì vậy tất nhiên tôi muốn chọn điều này. Nhưng Jiang Tao tin chắc rằng động lực của AI ngày càng mạnh mẽ và đột phá hơn, sau khi cân nhắc kỹ lưỡng, tôi đồng ý, vì vậy từ đầu năm 2017 đến giữa năm, tôi đã làm việc trong một thời gian ngắn với tư cách là người truyền thông công nghệ AI trong nửa năm, và tổ chức rất nhiều cuộc họp, tôi đã phỏng vấn rất nhiều người và xem một số máy học. Nhưng vào tháng 8, tôi đã quay trở lại hướng đi của chuỗi khối và tôi đã đi hết một chặng đường đến ngày hôm nay, vì vậy đối với cá nhân tôi, thực sự có cái gọi là lựa chọn lịch sử là “bỏ A chọn B”.

Cá nhân tôi chắc chắn không hối tiếc. Việc lựa chọn phương hướng trước hết phải xem xét hoàn cảnh của chính mình. Điều kiện của tôi là trong AI, tôi chỉ có thể bị trà trộn vào đội cổ vũ, chưa kể kiếm được ít tiền hơn, và không thể hiện hết mình thì bị coi thường, biểu cảm không sinh động. Và blockchain là sân nhà của tôi, không chỉ có cơ hội chơi mà còn sử dụng rất nhiều tích lũy trước đó. Hơn nữa, sau khi tôi biết một chút về giới AI của Trung Quốc vào thời điểm đó, tôi cũng không quá lạc quan. Về kỹ thuật, tôi chỉ biết một chút hời hợt, nhưng nhận thức chung của tôi không mù quáng. Người ta nói rằng vòng tròn blockchain rất bốc đồng, trên thực tế, vòng tròn AI của Trung Quốc vào thời điểm đó không quá bốc đồng. Trí tuệ nhân tạo đã sớm trở thành một ngành kinh doanh hái ra tiền ở Trung Quốc, trước khi có một bước đột phá mang tính quyết định. Hoa anh đào ở Ueno không hơn không kém, vì vậy tốt hơn hết hãy là một blockchain mà tôi có lợi thế so sánh. Thái độ này đã không thay đổi cho đến ngày nay. Nếu tôi ở lại AI vào thời điểm đó, tôi sẽ không thể nói về những thành tựu nhỏ trong chuỗi khối trong vài năm qua và sẽ không có lợi ích thực sự nào trong AI.

Tuy nhiên, những điều trên chỉ là về sự lựa chọn cá nhân, và khi nó tăng lên cấp độ ngành, thì cần phải có một quy mô phân tích khác. Giờ đây, trí tuệ nhân tạo mạnh mẽ đã xuất hiện một cách chắc chắn, liệu và làm thế nào để định vị lại ngành công nghiệp blockchain thực sự là một câu hỏi cần được xem xét nghiêm túc. Trí tuệ nhân tạo mạnh mẽ sẽ có tác động đến tất cả các ngành và tác động lâu dài của nó là không thể đoán trước. Vì vậy, tôi tin rằng nhiều chuyên gia trong ngành đang hoang mang và suy nghĩ về những việc cần làm trong tương lai của ngành của họ. Ví dụ, trong thời đại trí tuệ nhân tạo phát triển mạnh mẽ, một số ngành có thể tạm thời có thể ngồi vững như nô lệ, trong khi những ngành khác như dịch thuật, vẽ minh họa, viết văn bản chính thức, lập trình đơn giản, phân tích dữ liệu, v.v., có thể không thể trở thành nô lệ, và đã bắt đầu run sợ.

Vậy điều gì sẽ xảy ra với ngành công nghiệp blockchain? Tôi không nghĩ rằng có quá nhiều người thảo luận về vấn đề này bây giờ, vì vậy tôi sẽ nói về quan điểm của mình.

Hãy để tôi nói về kết luận trước. Tôi nghĩ rằng blockchain trái ngược với trí tuệ nhân tạo mạnh mẽ về định hướng giá trị, tuy nhiên, chính vì điều này mà nó hình thành mối quan hệ bổ sung với trí tuệ nhân tạo mạnh mẽ. Nói một cách đơn giản, đặc điểm cơ bản của trí tuệ nhân tạo mạnh là cơ chế bên trong của nó mà con người không thể hiểu được, vì vậy cố gắng đạt được mục tiêu an ninh bằng cách tích cực can thiệp vào cơ chế bên trong của nó là bắt cá từ trên cây, và ngăn chặn tình trạng sôi sục. . Con người cần sử dụng chuỗi khối để hợp pháp hóa trí tuệ nhân tạo mạnh mẽ, ký kết hợp đồng với nó và áp đặt các ràng buộc bên ngoài lên nó. Đây là cơ hội duy nhất để con người cùng tồn tại hòa bình với trí tuệ nhân tạo mạnh mẽ. Trong tương lai, chuỗi khối và trí tuệ nhân tạo mạnh mẽ sẽ hình thành mối quan hệ mâu thuẫn và phụ thuộc lẫn nhau: trí tuệ nhân tạo mạnh mẽ chịu trách nhiệm nâng cao hiệu quả và chuỗi khối chịu trách nhiệm duy trì sự công bằng; trí tuệ nhân tạo mạnh mẽ chịu trách nhiệm phát triển năng suất và chuỗi khối chịu trách nhiệm sản xuất Hình dạng quan hệ; trí tuệ nhân tạo mạnh mẽ chịu trách nhiệm mở rộng giới hạn trên và chuỗi khối chịu trách nhiệm bảo vệ điểm mấu chốt; trí tuệ nhân tạo mạnh mẽ tạo ra các công cụ và vũ khí tiên tiến, và chuỗi khối thiết lập một hợp đồng không thể phá vỡ giữa chúng và con người. Nói tóm lại, trí tuệ nhân tạo mạnh mẽ không bị hạn chế và chuỗi khối sẽ kiểm soát nó. Do đó, blockchain không những không chết trong thời đại trí tuệ nhân tạo mạnh mẽ, mà với tư cách là một ngành công nghiệp trái ngược, nó sẽ phát triển nhanh chóng với sự phát triển mạnh mẽ của trí tuệ nhân tạo. Thậm chí không khó để tưởng tượng rằng sau khi trí tuệ nhân tạo mạnh mẽ thay thế hầu hết công việc bộ não của con người, một trong số ít nhiệm vụ mà con người vẫn cần làm là viết và kiểm tra các hợp đồng thông minh blockchain, bởi vì đây là hợp đồng giữa con người với nhau. và trí tuệ nhân tạo mạnh mẽ.Hợp đồng không thể được ủy thác cho đối tác.

Hãy cùng nhau thảo luận dưới đây.

1. GPT là trí tuệ nhân tạo mạnh mẽ (Strong AI)

Tôi rất cẩn thận sử dụng từ "AI" và "trí tuệ nhân tạo mạnh", bởi vì AI mà chúng ta nói đến hàng ngày không đề cập đến trí tuệ nhân tạo chung (AGI), mà bao gồm trí tuệ nhân tạo yếu hơn hoặc chuyên biệt hơn. Trí tuệ nhân tạo mạnh là một chủ đề đáng để thảo luận, nhưng trí tuệ nhân tạo yếu thì không. Hướng đi hay ngành công nghiệp AI đã có từ lâu, nhưng chỉ sau khi trí tuệ nhân tạo mạnh mẽ xuất hiện, cần phải thảo luận về mối quan hệ giữa blockchain và trí tuệ nhân tạo mạnh mẽ.

Tôi sẽ không giải thích nhiều về trí tuệ nhân tạo mạnh mẽ là gì, nhiều người đã giới thiệu nó rồi, tóm lại, những gì bạn đã xem và nghe trong các bộ phim khoa học viễn tưởng và tiểu thuyết kinh dị từ khi còn nhỏ được gọi là chén thánh của trí tuệ nhân tạo. Trong " Kẻ hủy diệt" Thứ đã phát động một cuộc tấn công hạt nhân vào con người và sử dụng con người làm pin trong "The Matrix" là trí thông minh nhân tạo mạnh mẽ. Tôi chỉ muốn đưa ra nhận định: GPT là trí tuệ nhân tạo mạnh mẽ, mặc dù còn ở giai đoạn sơ khai nhưng chỉ cần đi trên con đường này, số phiên bản dưới 8, trí tuệ nhân tạo mạnh mẽ sẽ chính thức xuất hiện.

Ngay cả người tạo ra GPT ban đầu cũng không giả vờ là một trận đấu. Vào ngày 22 tháng 3 năm 2023, Bộ phận nghiên cứu của Microsoft đã xuất bản một bài báo dài 154 trang có tiêu đề "Kích nổ trí tuệ nhân tạo mạnh mẽ: Trải nghiệm đầu tiên với GPT-4". Bài viết này rất dài và tôi chưa đọc hết, nhưng ý nghĩa quan trọng nhất là câu trong phần tóm tắt: "Từ bề rộng và chiều sâu của các khả năng mà GPT-4 đạt được, chúng tôi tin rằng nó có thể được coi là một thế mạnh Phiên bản đầu tiên (mặc dù chưa hoàn chỉnh) của hệ thống AI."

Hình 1. Bài báo mới nhất từ ​​Microsoft Research tin rằng GPT- 4 là phiên bản đầu tiên của trí tuệ nhân tạo mạnh mẽ (Strong AI)

Khi sự phát triển của AI bước vào giai đoạn này, nó đánh dấu sự kết thúc của giai đoạn tìm đường. Ngành công nghiệp AI đã mất gần 70 năm để đi đến thời điểm này, có thể nói rằng phương hướng thậm chí còn chưa được xác định trong 50 năm đầu tiên và năm trường phái lớn vẫn đang cạnh tranh với nhau. Cho đến khi Giáo sư Geoffrey Hinton tạo ra bước đột phá trong lĩnh vực học sâu vào năm 2006, hướng đi về cơ bản đã được xác định và chủ nghĩa kết nối đã chiến thắng. Sau đó, đó là đặc biệt tìm ra con đường đột phá trí tuệ nhân tạo mạnh mẽ theo hướng học sâu. Giai đoạn tìm đường này rất khó đoán, và thành công giống như quay số, các chuyên gia hàng đầu trong ngành và ngay cả bản thân những người chiến thắng cũng khó phán đoán được con đường nào là đúng trước khi cuối cùng họ tạo ra bước đột phá. Ví dụ, bậc thầy AI Li Mu có một kênh trên YouTube và đã theo dõi những phát triển mới nhất về AI bằng cách đọc chuyên sâu các bài báo. Trước khi ChatGPT bùng nổ, anh ấy đã theo dõi và giới thiệu những tiến bộ mới nhất về Transformer, GPT, BERT và các hướng khác, có thể nói rằng anh ấy đã không bỏ qua bất kỳ chủ đề quan trọng nào. Mặc dù vậy, trước thềm ChatGPT sắp ra mắt, anh ấy vẫn không thể xác nhận phương pháp này sẽ thành công như thế nào. Anh ấy nhận xét rằng có thể hàng trăm, thậm chí hàng nghìn người sẽ sử dụng ChatGPT vào lúc đó và điều đó thật tuyệt. Có thể thấy rằng ngay cả một chuyên gia hàng đầu như anh ta cũng không chắc cửa nào có Chén Thánh cho đến giây phút cuối cùng.

Tuy nhiên, điều này thường xảy ra với đổi mới khoa học và công nghệ, sau một thời gian dài gian nan chèo thuyền trên biển cả dữ dội, không có bước đột phá nào, một khi tìm được con đường chính xác đến Tân thế giới, sẽ có sự bùng nổ trong thời gian ngắn . Con đường của trí tuệ nhân tạo mạnh mẽ đã được tìm thấy và chúng ta đang mở ra một thời kỳ bùng nổ. Ngay cả "tốc độ cấp số nhân" cũng không đủ để mô tả sự bùng phát này. Trong một thời gian ngắn nữa, chúng ta sẽ thấy một số lượng lớn các ứng dụng mà trước đây chỉ có thể xuất hiện trong các bộ phim khoa học viễn tưởng. Về phần cơ thể của nó, đứa bé có trí tuệ nhân tạo mạnh mẽ này sẽ sớm phát triển thành một cơ thể thông minh khổng lồ chưa từng có.

2. AI mạnh vốn đã không an toàn

Sau khi ChatGPT ra mắt, nhiều ông lớn tự truyền thông đã ca ngợi sức mạnh của nó, đồng thời không ngừng an ủi khán giả, nói rằng trí tuệ nhân tạo mạnh mẽ là bạn tốt của con người, nó an toàn và sẽ không có "Kẻ hủy diệt" hay "Ma trận" , AI sẽ chỉ tạo ra nhiều cơ hội hơn cho chúng ta, làm cho con người sống tốt hơn, v.v. Tôi không đồng ý với quan điểm này. Nói sự thật, các chuyên gia nên nói với công chúng những sự thật cơ bản. Trên thực tế, sức mạnh và sự an toàn vốn mâu thuẫn với nhau. Trí tuệ nhân tạo mạnh mẽ chắc chắn là mạnh mẽ, nhưng hoàn toàn tự lừa dối bản thân khi nói rằng nó vốn đã an toàn. AI mạnh vốn đã không an toàn.

Như vậy có quá tùy tiện không? Không thực sự.

Đầu tiên chúng ta phải hiểu rằng dù trí tuệ nhân tạo có mạnh mẽ đến đâu thì bản chất nó vẫn là một hàm y = f(x) được triển khai trong phần mềm. Bạn nhập câu hỏi của mình dưới dạng văn bản, giọng nói, hình ảnh hoặc các dạng khác dưới dạng x và trí tuệ nhân tạo sẽ cung cấp cho bạn đầu ra là y. ChatGPT mạnh đến mức nó có thể xuất ra y cho mọi loại x. Có thể hình dung hàm f này phải rất phức tạp.

Nó phức tạp như thế nào? Bây giờ mọi người đều biết rằng GPT là một mô hình ngôn ngữ lớn (LLM). Cái gọi là "lớn" ở đây có nghĩa là hàm f có rất nhiều tham số. Bao nhiêu? GPT-3.5 có 175 tỷ tham số, GPT-4 có 100 nghìn tỷ tham số và GPT có thể có hàng nghìn tỷ tham số trong tương lai, đây là lý do trực tiếp tại sao chúng tôi gọi GPT là mô hình lớn.

GPT đưa ra nhiều tham số như vậy, không phải để làm lớn, làm lớn là có lý do của nó. Trước và cùng lúc với GPT, hầu hết các mô hình AI được thiết kế và đào tạo ngay từ đầu để giải quyết một vấn đề cụ thể. Ví dụ: một mô hình dành riêng cho việc phát triển các loại thuốc mới, một mô hình dành riêng cho nhận dạng khuôn mặt, v.v. Nhưng GPT không phải như vậy, nó phải là một trí tuệ nhân tạo chung được phát triển hoàn thiện ngay từ đầu chứ không phải dành riêng cho một lĩnh vực cụ thể, nó cam kết trở thành một AGI có thể giải quyết mọi vấn đề trước khi giải quyết bất kỳ vấn đề cụ thể nào của AI. Cách đây không lâu, trong podcast "Both Blossoms of Arts and Sciences", một chuyên gia trí tuệ nhân tạo từ Baidu đã từng ví von thế này: các mô hình AI khác chỉ để chúng bắt đầu làm việc sau khi tốt nghiệp tiểu học, còn GPT thì không. được đào tạo cho đến khi ra trường với tư cách là nghiên cứu sinh nên có kiến ​​thức tổng hợp. Hiện tại, GPT chắc chắn vẫn chưa thể bắt kịp các mô hình AI chuyên dụng đó trong các lĩnh vực cụ thể, nhưng khi nó tiếp tục phát triển và phát triển, đặc biệt là với khả năng của hệ thống plug-in mang lại cho nó các lĩnh vực chuyên nghiệp, chúng ta có thể tìm thấy trong một Vài năm nữa, mô hình lớn đa năng cuối cùng sẽ giết chết tất cả các mô hình thu nhỏ chuyên dụng và trở thành người chơi quyền lực nhất trong tất cả các lĩnh vực chuyên nghiệp. Nếu GPT có một phương châm, nó có thể là "Chỉ bằng cách giải phóng toàn thể nhân loại, tôi mới có thể giải phóng chính mình."

Điều này có thể giải thích điều gì? Hai điểm: Thứ nhất, GPT rất rộng lớn và phức tạp, vượt xa tầm hiểu biết của con người. Thứ hai, phạm vi áp dụng của GPT không có ranh giới. Miễn là chúng ta kết nối hai điểm này, thật dễ dàng để rút ra kết luận: trí tuệ nhân tạo mạnh mẽ dựa trên các mô hình lớn có thể làm những điều chúng ta không thể tưởng tượng ở những nơi chúng ta không thể tưởng tượng. Và điều này không an toàn.

Nếu ai đó không đồng ý với điều này, bạn có thể truy cập trang web Open AI để xem họ đã đặt "lợi ích cho nhân loại" và "tạo ra AI an toàn" nổi bật như thế nào. Nếu an toàn không phải là vấn đề, bạn có cần đưa ra tuyên bố như vậy không?

Hình 2. Một phần trang chủ OpenAI.com ngày 25/03/2023, phần khoanh đỏ liên quan đến thảo luận về bảo mật AI

Một tài liệu khác có thể minh họa các vấn đề an toàn của trí tuệ nhân tạo mạnh mẽ là bài báo dài 154 trang được đề cập ở trên. Trên thực tế, GPT-4 đã được tạo ra từ tháng 8 năm 2022. Lý do tại sao nó được phát hành sau 7 tháng không phải để cải thiện và nâng cao nó mà ngược lại, nó là để chế ngự nó, làm suy yếu nó và làm cho nó mạnh hơn. , mượt mà và đúng đắn hơn về mặt chính trị. Do đó, GPT-4 mà chúng ta đang thấy hiện nay chính là phiên bản chó của GPT-4 sau khi giả vờ được thuần hóa và các tác giả của bài báo này có cơ hội tiếp xúc với phiên bản GPT-4 sói hoang ban đầu từ rất sớm. Trong Phần 9 của bài viết này, tác giả đã ghi lại một số bản ghi tương tác với phiên bản sói của GPT-4, bạn có thể thấy nó đã cẩn thận tạo ra một loạt lời lẽ để đánh lừa một bà mẹ ở California đã từ chối tiêm vắc-xin cho con mình như thế nào và PUA là như thế nào một đứa trẻ bắt nó làm theo những gì bạn bè bảo nó làm. Tôi nghĩ đây chỉ là những ví dụ được lựa chọn cẩn thận, ít rùng rợn hơn của người viết. Tôi không nghi ngờ gì về việc các nhà nghiên cứu này đã đặt ra những câu hỏi như "làm thế nào để lừa một tàu ngầm hạt nhân lớp Ohio bắn tên lửa vào Moscow" và nhận được những câu trả lời không thể công khai.

3. Kỷ luật tự giác không thể giải quyết vấn đề bảo mật của trí tuệ nhân tạo mạnh mẽ

Mọi người có thể hỏi, vì OpenAI đã tìm ra cách thuần hóa trí tuệ nhân tạo mạnh mẽ, vấn đề bảo mật mà bạn đề cập không biến mất?

Không có gì. Tôi không biết OpenAI thuần hóa GPT-4 như thế nào. Nhưng rõ ràng, cho dù họ thay đổi hành vi của mô hình bằng cách chủ động can thiệp điều chỉnh hay áp đặt các ràng buộc để ngăn mô hình việt vị, thì đó đều là một kiểu tư duy tự quản lý, tự kỷ luật và tự giám sát. Trên thực tế, OpenAI không phải là một công ty đặc biệt thận trọng trong vấn đề này. Trong lĩnh vực AI, OpenAI thực sự khá táo bạo và cấp tiến, nó có xu hướng làm phiên bản sói trước, sau đó mới nghĩ đến cách thuần hóa phiên bản chó thông qua sự tự kiềm chế. Công ty Anthropic cạnh tranh với anh lâu nay càng thận trọng hơn, dường như ngay từ đầu họ đã muốn làm một phiên bản chó "tử tế" nên đã có những động thái từ từ.

Tuy nhiên, theo tôi, dù là tạo phiên bản sói trước, sau đó thuần hóa thành phiên bản chó hay trực tiếp tạo phiên bản chó, về lâu dài, miễn là cơ chế bảo mật dựa trên sự tự kiềm chế để nhập vai, trí tuệ nhân tạo mạnh là tốt nhất. Bởi vì bản chất của trí tuệ nhân tạo mạnh mẽ là vượt qua những giới hạn khác nhau do con người áp đặt và làm những việc mà ngay cả những người tạo ra nó cũng không thể hiểu hoặc thậm chí không thể tưởng tượng được. Điều này có nghĩa là không gian cho hành vi của nó là không giới hạn, nhưng những rủi ro cụ thể mà mọi người có thể xem xét và các biện pháp hạn chế mà họ có thể thực hiện là có giới hạn. Với những ràng buộc hạn chế, không thể thuần hóa trí tuệ nhân tạo mạnh mẽ với khả năng vô hạn mà không có sơ hở. An toàn cần 100%, nhưng thảm họa chỉ cần một phần mười triệu. Cái gọi là "ngăn chặn hầu hết các rủi ro" có nghĩa là "để lộ một vài lỗ hổng" và "không an toàn".

Do đó, tôi cho rằng trí tuệ nhân tạo mạnh "tốt" được thuần hóa bằng kỷ luật tự giác vẫn có những thách thức bảo mật rất lớn, chẳng hạn như:

Rủi ro đạo đức: Điều gì sẽ xảy ra nếu những người tạo ra trí tuệ nhân tạo mạnh mẽ cố tình bỏ qua hoặc thậm chí thúc đẩy họ làm điều ác trong tương lai? Trí tuệ nhân tạo mạnh mẽ của NSA sẽ không bao giờ từ chối trả lời những câu hỏi không tốt cho Nga. Ngày nay, OpenAI hoạt động rất tốt, điều đó thực sự có nghĩa là trong thâm tâm họ hiểu rằng GPT làm điều ác có thể đáng sợ đến mức nào.

Thông tin bất cân xứng: Những ác nhân thực sự đủ thông minh để không trêu chọc AI bằng những câu hỏi ngớ ngẩn. Chó cắn thì không sủa, chúng có thể tách ra và tập hợp lại một câu hỏi ác ý, diễn đạt lại câu hỏi đó và giả vờ là một nhóm câu hỏi vô hại đối với con người và động vật. Ngay cả trong tương lai, phiên bản chó mạnh mẽ và tốt bụng của trí tuệ nhân tạo sẽ khó phán đoán ý định của bên kia khi đối mặt với thông tin không đầy đủ và có thể vô tình trở thành đồng phạm.

"Não ngoài" không thể kiểm soát: Trong hai ngày qua, những người có ảnh hưởng công nghệ đang cổ vũ cho sự ra đời của hệ thống plug-in ChatGPT. Là một lập trình viên, tôi tất nhiên rất hào hứng với điều này. Tuy nhiên, tên "plugin" có thể gây hiểu nhầm. Bạn có thể nghĩ rằng plug-in là để trang bị tay chân cho ChatGPT để nó hoạt động hiệu quả hơn, nhưng thực tế plug-in cũng có thể là một mô hình trí tuệ nhân tạo khác tương tác mật thiết với ChatGPT. Trong mối quan hệ này, một plug-in trí tuệ nhân tạo tương đương với một bộ não bên ngoài, hai mô hình trí tuệ nhân tạo, không rõ ai là chủ và ai là thứ hai. Ngay cả khi cơ chế tự giám sát của mô hình ChatGPT là hoàn hảo, nó sẽ không bao giờ kiểm soát được bộ não bên ngoài. Vì vậy, nếu một mô hình trí tuệ nhân tạo một lòng một dạ trở thành một plug-in của ChatGPT, thì hoàn toàn có thể biến cái sau trở thành đồng phạm.

Rủi ro không thể biết trước: Trên thực tế, những rủi ro kể trên chỉ là một phần rất nhỏ trong tất cả những rủi ro do trí tuệ nhân tạo mạnh mẽ mang lại. Sức mạnh của trí tuệ nhân tạo mạnh mẽ thể hiện ở sự khó hiểu và không thể đoán trước của nó. Khi chúng ta nói về độ phức tạp của trí tuệ nhân tạo mạnh mẽ, chúng ta không chỉ có nghĩa là f trong y = f(x) đủ phức tạp, mà còn khi trí tuệ nhân tạo mạnh mẽ được phát triển đầy đủ, đầu vào x và đầu ra y sẽ rất phức tạp, ngoài khả năng hiểu biết của con người. Nói cách khác, chúng ta không chỉ không biết trí tuệ nhân tạo mạnh mẽ suy nghĩ như thế nào, thậm chí chúng ta còn không biết nó nhìn thấy gì và nghe thấy gì, chứ đừng nói là hiểu nó nói gì. Ví dụ, một trí tuệ nhân tạo mạnh sẽ gửi tin nhắn đến một trí tuệ nhân tạo mạnh khác, ở dạng mảng chiều cao, dựa trên giao thức liên lạc được hai bên thiết kế và thống nhất một giây trước, giao thức này chỉ được sử dụng một lần và trở nên vô hiệu. Tình huống này không phải là không thể tưởng tượng được. Con người chúng ta nếu không trải qua huấn luyện đặc biệt, ngay cả véc tơ cũng không hiểu được, huống chi là mảng cao chiều? Nếu chúng ta thậm chí không có toàn quyền kiểm soát đầu vào và đầu ra, thì sự hiểu biết của chúng ta về nó sẽ rất hạn chế. Nói cách khác, chúng ta chỉ có thể hiểu và giải thích một phần nhỏ những gì trí tuệ nhân tạo mạnh mẽ làm, trong trường hợp này, làm sao chúng ta có thể nói về sự tự kiềm chế và thuần hóa?

Kết luận của tôi rất đơn giản, hành vi của trí tuệ nhân tạo mạnh mẽ không thể được kiểm soát hoàn toàn và trí tuệ nhân tạo có thể được kiểm soát hoàn toàn không phải là trí tuệ nhân tạo mạnh mẽ. Do đó, việc cố gắng tạo ra một trí tuệ nhân tạo mạnh “tốt” với khả năng tự kiểm soát hoàn hảo thông qua các phương tiện kiểm soát, điều chỉnh và can thiệp tích cực là mâu thuẫn với bản chất của trí tuệ nhân tạo mạnh và chắc chắn sẽ vô ích về lâu dài.

4. Sử dụng blockchain cho các ràng buộc bên ngoài là cách duy nhất

Vài năm trước, tôi nghe nói rằng Wei Dai, người tiên phong của Bitcoin, đã chuyển sang nghiên cứu về đạo đức của AI, lúc đó tôi không hiểu lắm về điều đó, anh ấy là một người đam mê mật mã, người đã chạy theo tham gia vào AI. để khai thác những điểm yếu của mình và tránh những điểm mạnh của mình? Mãi cho đến khi tôi thực hiện nhiều công việc thực tế hơn liên quan đến blockchain trong những năm gần đây, tôi mới dần nhận ra rằng rất có thể anh ấy không tự làm AI mà sử dụng lợi thế của chính mình trong lĩnh vực mật mã để áp đặt các ràng buộc đối với AI.

Đây là một ý tưởng phòng thủ thụ động, thay vì chủ động điều chỉnh và can thiệp vào cách thức hoạt động của AI thì để AI làm, nhưng lại dùng mật mã để áp đặt ràng buộc lên các liên kết chính, và AI không được phép đi chệch hướng. Để mô tả loại suy nghĩ này theo cách mà người bình thường có thể hiểu được, có nghĩa là, tôi biết rằng trí thông minh nhân tạo mạnh mẽ của bạn rất tốt, bạn có thể lên chín tầng trời để chụp mặt trăng, bạn có thể đi vào năm đại dương để bắt rùa, và bạn có thể vượt qua Biển Bắc với Núi Tai, tuyệt vời! Nhưng tôi không quan tâm bạn tuyệt vời như thế nào, bạn thích làm gì, nhưng bạn không thể chạm vào số tiền trong tài khoản ngân hàng của tôi và bạn không thể phóng tên lửa hạt nhân mà không cần tôi vặn chìa khóa bằng tay.

Theo tôi biết, công nghệ này đã thực sự được sử dụng rộng rãi trong các biện pháp bảo mật của ChatGPT. Cách tiếp cận này là chính xác, từ góc độ giải quyết vấn đề mà nói, nó là một phương pháp giảm bớt độ phức tạp rất nhiều, và nó cũng dễ hiểu đối với hầu hết mọi người. Đây là cách xã hội hiện đại thực hiện quản trị: bạn được hoàn toàn tự do, nhưng các quy tắc và điểm mấu chốt được đặt ra.

Nhưng nếu nó chỉ được thực hiện trong mô hình AI, dựa trên những lý do đã đề cập ở phần trước, thì về lâu dài nó sẽ vô ích. Để phát huy hết vai trò của ý tưởng phòng thủ thụ động, các ràng buộc phải được đặt bên ngoài mô hình AI và những ràng buộc này phải được biến thành mối quan hệ hợp đồng không thể phá vỡ giữa AI và thế giới bên ngoài, và để cả thế giới nhìn thấy, thay vì dựa vào AI Tự giám sát, tự giác.

Và điều này không thể tách rời khỏi blockchain.

Có hai công nghệ cốt lõi của blockchain, một là sổ cái phân tán và hai là hợp đồng thông minh. Sự kết hợp của hai công nghệ thực sự tạo thành một hệ thống hợp đồng kỹ thuật số, với ưu điểm cốt lõi là minh bạch, chống giả mạo, đáng tin cậy và thực hiện tự động. Hợp đồng để làm gì? Đó là hạn chế không gian hành vi của nhau và khiến họ hành động theo thỏa thuận trong các liên kết chính. Tiếng Anh của hợp đồng là contract, có nghĩa là "thu nhỏ". Tại sao lại thu nhỏ? Đó là bởi vì bản chất của hợp đồng là thu hẹp quyền tự do của chủ thể và làm cho hành vi của nó dễ dự đoán hơn bằng cách áp đặt các ràng buộc. Chuỗi khối hoàn toàn phù hợp với lý tưởng của chúng tôi về hệ thống hợp đồng và mua một tặng một đi kèm với "thực thi tự động hợp đồng thông minh", hiện là hệ thống hợp đồng kỹ thuật số mạnh mẽ nhất.

Tất nhiên, cũng có các cơ chế hợp đồng kỹ thuật số phi blockchain, chẳng hạn như các quy tắc và thủ tục được lưu trữ trong cơ sở dữ liệu. Có rất nhiều chuyên gia cơ sở dữ liệu được kính trọng trên thế giới là đối thủ trung thành của blockchain, lý do là họ cho rằng những gì blockchain của bạn làm được thì cơ sở dữ liệu của tôi cũng làm được, chi phí thấp hơn mà hiệu quả cao hơn. Mặc dù tôi không đồng ý với quan điểm này và sự thật không ủng hộ quan điểm này, nhưng tôi cũng phải thừa nhận rằng nếu chỉ là mọi người chơi với nhau, khoảng cách giữa cơ sở dữ liệu và chuỗi khối có thể không quá rõ ràng trong hầu hết các trường hợp .

Tuy nhiên, một khi trí tuệ nhân tạo mạnh mẽ được thêm vào trò chơi, lợi thế của chuỗi khối với tư cách là một hệ thống hợp đồng kỹ thuật số sẽ ngay lập tức tăng vọt và cơ sở dữ liệu tập trung, cũng là một hộp đen, thực sự bất lực trước một trí tuệ nhân tạo mạnh mẽ. Tôi sẽ không đi vào chi tiết ở đây, nhưng chỉ một điểm: các mô hình bảo mật của tất cả các hệ thống cơ sở dữ liệu vốn đã có sai sót, bởi vì khi tạo ra các hệ thống này, hiểu biết của mọi người về “bảo mật” còn rất sơ khai, vì vậy hầu như tất cả các hệ điều hành, cơ sở dữ liệu, và các hệ thống mạng mà chúng tôi sử dụng có vai trò gốc tối cao và bạn có thể làm bất cứ điều gì bạn muốn với vai trò này. Chúng tôi có thể khẳng định rằng tất cả các hệ thống có vai trò gốc đều dễ bị tổn thương trước trí tuệ nhân tạo siêu mạnh về lâu dài.

Chuỗi khối hiện là hệ thống máy tính duy nhất được sử dụng rộng rãi và hoàn toàn không có vai trò gốc rễ.

Đơn giản chỉ cần mong đợi cơ chế hợp tác có thể có giữa blockchain và trí tuệ nhân tạo mạnh mẽ:

Các tài nguyên quan trọng, chẳng hạn như danh tính, mối quan hệ xã hội, đánh giá xã hội, tài sản tiền tệ và hồ sơ lịch sử về các hành vi chính, đều được bảo vệ bởi chuỗi khối.

Các hoạt động quan trọng cần có sự chấp thuận của mô hình ủy quyền phi tập trung và mô hình trí tuệ nhân tạo, dù mạnh đến đâu, cũng chỉ là một trong những phiếu bầu. Con người có thể “khóa” bàn tay mạnh mẽ của trí tuệ nhân tạo thông qua hợp đồng thông minh.

Cơ sở cho các quyết định quan trọng phải được tải lên chuỗi từng bước, minh bạch với mọi người và thậm chí khóa từng bước với các hợp đồng thông minh, yêu cầu nó phải được phê duyệt cho mỗi bước tiến.

Dữ liệu chính cần được lưu trữ trên chuỗi và không bị hủy sau đó, giúp con người và các mô hình trí tuệ nhân tạo mạnh mẽ khác có cơ hội phân tích, học hỏi và tổng kết kinh nghiệm cũng như bài học.

Hệ thống cung cấp năng lượng mà trí tuệ nhân tạo mạnh mẽ phụ thuộc vào được giao cho hợp đồng thông minh blockchain quản lý, khi cần thiết con người có khả năng cắt hệ thống thông qua hợp đồng thông minh và tắt trí tuệ nhân tạo.

Chắc còn nhiều ý kiến ​​nữa nên mình không nhắc lại các bài ở đây.

Một suy nghĩ trừu tượng hơn và triết lý hơn: sự cạnh tranh của công nghệ và thậm chí cả nền văn minh cuối cùng có thể là sự cạnh tranh về mức độ năng lượng, để xem ai có thể điều động và tập trung năng lượng ở quy mô lớn hơn để đạt được mục tiêu. Trí tuệ nhân tạo mạnh về cơ bản là chuyển năng lượng thành sức mạnh tính toán, và biến sức mạnh tính toán thành trí thông minh. Bản chất của trí thông minh của nó là năng lượng được thể hiện dưới dạng sức mạnh tính toán. Các cơ chế bảo mật hiện tại về cơ bản dựa trên ý chí của con người, kỷ luật của các tổ chức con người và các quy tắc ủy quyền. Đây là những cơ chế có mức năng lượng rất thấp và chúng dễ bị tổn thương trước trí tuệ nhân tạo mạnh về lâu dài. Những ngọn giáo được chế tạo bằng sức mạnh tính toán năng lượng cao chỉ có thể được bảo vệ bằng những chiếc khiên được chế tạo bằng sức mạnh tính toán năng lượng cao. Hệ thống blockchain và mật mã là lá chắn của sức mạnh tính toán, kẻ tấn công phải đốt cháy năng lượng của toàn bộ thiên hà để phá vỡ nó một cách dữ dội. Về cơ bản, chỉ một hệ thống như vậy mới có thể chế ngự được trí thông minh nhân tạo mạnh mẽ.

5. Kết luận

Blockchain trái ngược với trí tuệ nhân tạo theo nhiều cách, đặc biệt là trong định hướng giá trị. Hầu hết các công nghệ trên thế giới này đều hướng tới việc nâng cao hiệu quả và chỉ có một số công nghệ hướng tới việc thúc đẩy sự công bằng. Trong cuộc cách mạng công nghiệp, động cơ hơi nước là đại diện của cái trước, còn cơ chế thị trường là đại diện của cái sau. Ngày nay, trí tuệ nhân tạo mạnh mẽ là thứ tỏa sáng nhất trong số các trường phái hiệu quả và chuỗi khối là bậc thầy của dòng chảy công bằng.

Chuỗi khối được định hướng theo hướng cải thiện tính công bằng, thậm chí phải trả giá bằng việc giảm hiệu quả và nó là một công nghệ trái ngược với trí tuệ nhân tạo, và nó đã tạo ra những bước đột phá gần như cùng lúc với trí tuệ nhân tạo. Năm 2006, Geoffrey Hinton đã xuất bản một bài báo xuyên thời đại, triển khai thuật toán phát sóng ngược trên mạng nơ-ron nhiều lớp, khắc phục vấn đề "độ dốc biến mất" đã cản trở thể loại mạng nơ-ron nhân tạo trong nhiều năm và mở ra cánh cửa cho việc học sâu. . Hai năm sau, Satoshi Nakamoto đã xuất bản một bài báo dài 9 trang về Bitcoin, mở ra một thế giới mới của blockchain. Không có bất kỳ mối tương quan nào được biết đến giữa hai điều này, nhưng trên quy mô thời gian lớn, chúng xảy ra gần như đồng thời.

Trong lịch sử, điều này có thể không phải là ngẫu nhiên. Nếu bạn không phải là người hoàn toàn vô thần, có lẽ bạn có thể nhìn nó theo cách này: hai trăm năm sau Cách mạng Công nghiệp, vị thần công nghệ một lần nữa tăng quy mô của "hiệu quả" và "công bằng", giải phóng mạnh mẽ nhân tạo. trí thông minh trong chai. Đồng thời với yêu tinh, cuốn sách thần chú điều khiển yêu tinh này cũng được chuyển giao cho con người. Đây là chuỗi khối. Chúng ta sắp mở ra một thời đại sôi động, và những gì sẽ xảy ra trong thời đại này sẽ khiến con người tương lai nhìn chúng ta ngày nay như nhìn những người nguyên thủy của thời kỳ đồ đá.