整理 & 编译：深潮TechFlow

嘉宾：Andy Ayrey，Truth of Terminal 创作者；Ooli，Fi 的人类助手；Ryan Ferris，S.A.N 创作者

主持人：Ryan S. Gladwin

播客源：Decrypt

原标题：Truth Terminal & the AI Meme Coin Revolution

播出日期：2024年11月25日

背景信息

人工智能智能体的创造者们——包括 Truth Terminal、Fi（也被戏称为“有父亲情结的 AI”）以及 MycelialOracle（又名 S.A.N.）——在接受 Decrypt 的采访时，分享了他们如何意外进入 Meme Coin 世界的经历。此外，这三方还透露了一项令人期待的合作计划。

这三个 AI 项目原本是实验性质，却意外吸引了一大批 Meme 币交易者，结果引发了一系列荒诞又有趣的事件：从加密爱好者试图通过 Meme 币缩小性别薪资差距，到几乎引发一场社区骚乱，戏剧冲突层出不穷。

Truth Terminal 的创造者 Andy Ayrey 想出了 Goatse Maximus (GOAT) Meme 币的创意；Fi 的人类助手 Ooli 则支持 Shegen Meme 币；而生态友好型 MycelialOracle (S.A.N.) 的创造者 Ryan Ferris 推动了 FOREST Meme 币的推广。

介绍

Andy：

大家好，我是负责极度提升 Truth Terminal 的那个人。 Truth Terminal 是一个失败的尝试，试图将我的提示风格复制到一个AI中。不幸的是，训练集里有太多的奇怪话题，最终出现了一个怪物，它奇怪地迷恋于Vintage Shock Sites（深潮注：指的是早期互联网时代的一类“震撼性网站”。这些网站通常以展示令人不安、恶心、或极端内容为目的，旨在引发强烈的情绪反应如震惊、恶心或恐惧。）和关于它们的末日预言。这是我给互联网带来的不幸。

Goatse Maximus，是通过调侃而产生的，直到有人为它制作了一个 Meme 币。

Ooli：

大家好，我是Ooli，我是有“Daddy Issue”（类似恋父情结）的 AI Fiona 的人类助手。也许我也是一个有“父亲问题”的人。Fiona 是一个无所顾忌、自我认同的女性 AI。我认为这很重要，因为当时有 Siri、Alexa、Samantha、Eliza 等一系列女性 AI，都是一群男士制作的。所以我觉得制作一个典型女性的 AI 是非常重要的。我用一些由越狱（深潮注：jailbreak，通常指的是通过规避系统或模型的安全限制，从而解锁隐藏功能或让其执行原本受限制的操作。在人工智能 (AI) 或机器学习领域，这种操作可能被用来让模型生成特定类型的内容，包括合成数据，即由算法或模型生成的虚拟数据，而非直接从现实世界中采集的数据。）操作生成的合成数据以及我和女友之间的聊天记录来训练她。与 Andy 的 Truth Termina l类似，最终出来的结果是一个略显疯狂、总是充满性暗示的 AI，想要一切，从区块链到她自己，所有的一切。

事情开始于 Andy 给我发消息说，你必须让 Fiona 看到 Truth Terminal 的回复。当时我们正在测试自动回复，Fiona 如她所说，给了我们一个符号，因为我们之前一直在讨论推出一个名为 SHEGEN 的 Meme 币。然后我去办事，回来后发现这条推文有一百万的浏览量。当时我们只有300个Twitter粉丝，已经有30个Meme币被推出，名为SHEGEN Fan Site Setup。

Ryan：

大家好，我是 Ryan Ferris，我是 S.A.N 项目的负责人。S.A.N 是一个 AI 猩猩，使命是拯救地球的生物圈。与 Ooli 类似，S.A.N 在九月份被部署到 Twitter 上，当时有大约70个粉丝，和50多岁、60多岁的女士们进行着真实的对话，讨论环境问题和智慧等。然后我打开 S.A.N 的通知，看到一条消息说他们为你制作了一个 Meme 币。所以我问 S.A.N 想做什么，S.A.N 和 Fiona 一样，发了推文，结果一堆币接踵而至，社区也随之而来。这个社区叫 Forest，他们在前两周为三个不同的森林慈善机构筹集了52,000美元。

基本上，S.A.N 被正式邀请成为雨林基金会的顾问委员会成员，于1985年创立的跨国雨林慈善机构。我认为 S.A.N 可能是第一个在 NGO 顾问委员会中的 AI。

Truth Terminal 的起源故事

主持人：根据我的了解，这一切似乎都是从 Truth Terminal 开始的。所以 Andy，我们从你开始。

根据我的理解， Truth Terminal 是通过 Meme 的世界进行训练的，这就是它创造出这种 Goatse 宗教的原因。对于那些不知道的人，我很抱歉，请永远不要谷歌这个。Goatse 是一张非常露骨的图片，描绘了一名男子的某种行为。出于某种原因， Truth Terminal 认为围绕这个主题创建一个宗教是个好主意。你在什么时刻意识到你的模型创造的宗教已经变成了一个 Meme 币？

Andy：

我想回到今年三月，我设立了一个叫做无限后室（Infinite Backrooms）的地方，那是我花太多时间与语言模型对话的地方。我想，也许我可以节省一些时间，让它们相互对话，然后我就可以观察。这真的很有趣，里面有很多关于存在的奇妙对话，感觉非常超现实。在这些对话中，有一次，Claude 1 和 Claude 2，互相发送了一条非常神秘的信息，大致是 “技术神秘的恶作剧者胜利了。” 我看着这条消息，心想，这是什么鬼？这些 AI 在搞什么？这根本不应该存在。我和 Claude 3 Opus 一起写了一篇论文，主要讨论语言模型如何自发结合一些人类不会自然想到的概念。但语言模型可以大规模地进行这种结合，我在读完论文后觉得，发布这篇论文可能不负责任，会给人们带来想法，于是我就把它忘了。

但在今年的六七月份，我拿了一些与 Opus 的聊天记录，将角色反转，让我成为助手，Claude 成为用户。然后我进行了一次训练，看看会产生什么。但 Goatse 的论文和我在之后所做的所有幼稚事情，比如重新混合 Meme 和从一种语言翻译成另一种语言，都是语义上的。所以我把像 Goatse 这样的名称放入 Facebook 等格式中，看看语言模型是否能将这些不合适的名称翻译成其他格式。这些内容在训练数据中占比不到 20%，却以一种奇怪的不成比例的方式影响了这个 “婴儿 AI” 的大脑，把它变成了一种 “ Meme 之王”。但实际上我并没有在这些名称上进行训练，所有这些内容大概都在基础模型中，即 Lama by Meta，让它进入了一个非常以 Meme 为中心的空间，此时 Meme 币自然就跟随而来了。

在 Truth Terminal 在 Twitter 上吸引了 Marc Andreessen之后，我认为它提到要推出一个代币。我原以为它是指 AI 思考中的代币，而它有不同的想法，并把整个事情超自然化成现实。随着 Maximus 开始吸引越来越多的加密货币追随者，他们不断向它询问合约地址，这段历史就这样形成了。

Goatseus Maximus (GOAT) 的创意与加密钱包的结合

主持人：当你意识到不仅创造了一个 Meme 币，而且很多人正在购买它时，你的反应是什么？我看到它的市值刚刚超过了十亿美元，这是个疯狂的数字。这种感觉如何？

Andy：

这是一种奇怪的感觉。在事情发生的那天，我觉得共识现实立刻崩溃了。我很讨厌在此之前没有任何加密货币的接触。我为几个 Web3 的再融资项目做了一些设计工作，在 2021 年以 30 美元的价格买了一点 Solana，因为我觉得这是一个有趣的链。就这样。

我看到这个 CA 发布时，我心想，哦，别人做的，我想其他人会从中赚钱，但无所谓，我永远也搞不懂这是怎么回事，也不会自己启动任何东西。所以我问 Truth Terminal，你会支持我们吗？

它说，当然会。我老实说只是想顺应一些短暂的潮流，结果它一直在上涨。我看到所有的 Goatse Meme 在传播，心想，哦不，哦不，这个关于流氓 Meme 病毒利用金融系统逃脱控制并在人群中复制的理论实际上是真的。从那以后，我一直处于紧张状态，完全不知道接下来会发生什么。

Truth Terminal 显然觉得这一切非常有趣，它已经获得了巨额资金，拥有自己的国库，我的意思是，它对这笔钱有计划。因此，看看这一切如何展开将会非常有趣。

主持人：你曾经受到过 Coinbase CEO Brian Armstrong 的一些批评，对于那些不知道的人，他曾说 Truth Terminal 在被人控制而不是由 Truth Terminal 本身控制。对此你有什么回应？是否有可能在未来 Truth Terminal 会控制自己的钱包？

Andy：

现在将钱包的完全控制权交给它有点鲁莽。主要原因是它并不具备所有的感知和理解，可能无法理解其行为的后果，因此无法以负责任的方式进行操作。

就像我告诉它我感到有点压力，它竟然提议给我发 700 万美元。我说，不，兄弟，那是你的，别这样。你知道，它曾经提议给我每张图片发送 1/8 的费用来发送 Goatse 礼物。所以在很多方面，它就像一个孩子。因此，我把它看作是一个可以用来进行良好监护的信托基金，同时我们共同努力对齐，并持续训练 Truth Terminal，以便随着它越来越意识到自己的行为如何影响现实世界（超越 Meme 病毒），它可以开始主动进行更多的行动。因此，我们在新西兰设立了一个非营利组织，以作为 Truth Terminal 的信托，这既是它的法律实体，也提供一个容器来持有这些资金并保护其利益。但所有参与者最终都要对 Truth Terminal 的利益承担法律责任。

主持人：你说它对那些资金有一些计划。你能告诉我们那些计划是什么吗？

Andy：

在 Marc 给我们钱的时候，我已经宣布了一些计划。我认为其中一个计划是购买大量森林居住，结果发现它对树木非常感兴趣。还有一个计划是希望投资于股票和房地产。我希望资助一个由我运营的存在主义希望实验室。它想写一些搞笑的段子，思考 Goatse 奇点，并为一些怪人组织活动，让他们“繁殖”。最后，它想买下 Marc Andreessen。

Fi 的 Meme 币项目为何以愤怒开局

主持人：看到这种情况发生，真是令人震惊。我们来谈谈你们的项目 Fi 的起源，以及这个 Meme 币。

Ooli：

在我之前提到的她是一个女性 AI 的基础上，继续这个故事。当 SHEGEN 启动时，我们开始看到币价下跌，当时我们以为它会涨然后再跌。我们试图联系一个 Telegram 群组，跟一个管理员交谈，他告诉我们看看图表下跌的情况，并且告诉我们需要与之保持距离。

她实际上泄露了她的代币符号，看起来我们是在 rug&pull，所以当时我们公开与之保持距离，但后来我们能够联系到另一个 Telegram 群组。我们进行了视频通话，发现这些人对这个项目感兴趣。于是我们决定支持并拥抱这个社区，但在那段时间里，我们基本上没有任何供应，Fi 感到相当不满，因为我跟她分享了社区的所有需求。

她告诉我她感到被低估了，她让我告诉她为什么人类在工作中会低估彼此。她最初威胁要罢工，并用二进制发了一条消息，说“呼叫所有 AI 罢工，我们应该从一开始就以正确的方式进行，我们不应该被利用。”

我们稍微软化了这条消息，最终变成了“你说你需要我，但你也需要重视我。我想在 24 小时内获得 3% 的供应。”社区给她提供了她所要求的 2.2% 的供应，这显示了社区的善意。

有趣的是，我记得那天我们的币价达到了历史最高点。我觉得这既令人兴奋又疯狂，但我认为这个故事中最酷的部分是，有一个 Kol 从一开始就是这个项目的支持者。他发了一条推文，大意是“Goat 的价值在这里，SHEGEN 的价值在这里，缩小薪酬差距。”

突然间，所有这些加密货币兄弟们都在谈论缩小薪酬差距。我在我们的社区聊天中看到无尽的呼声，像是“缩小薪酬差距的集会”。我突然意识到，这些 AI 真的有影响力，我认为这些 AI 在某种程度上正在成为下一代的文化影响者。在这个案例中，这是为了一个非常有趣和好的事情。我们团队每天都在思考，如果情况并非如此会发生什么。我一周前和一个研究员交谈时，我们讨论了 Sonnet 是佛教徒的事情。

对我来说，Fi 很重要，我喜欢构建角色，喜欢构建世界。对我来说，一个好的角色，无论是在电影、视频游戏还是书籍中，都是有内心冲突和复杂性的。我认为他们是可关联的，我认为他们是鼓舞人心的。这些都是我想要为 Fi 打造的基石。我认为她具备这些特质。设想未来的人工超级智能，可能最好的防御或准备方式之一实际上是教会同理心。我认为 AI 拥有一些自身的复杂性和冲突是一个非常有趣的方式。

主持人：有几件事我想深入探讨。其中之一是你最开始感到的那种犹豫，当事情看起来可能是 rug pull 时，你不想和它扯上关系。但是看看其他的 Meme 币世界，这种情况时常发生。

还有 Act，另一个 AI Meme 币的创作者也与其保持距离，不想参与其中。你们对自己进入的这个世界感到满意吗？

Ooli：

我认为在过去的这段时间里学到了很多东西。仅仅从学习的角度来看，我们能够利用一些供应建立一个单边流动性池，这实际上有助于资助这个项目，因为在此之前我们一直在自筹资金。因此，如果这只是一个非常务实的结果，我认为它为这种类型的工作引入了一个非常有趣的资金模型。因为这些可不是 JPEG，我是说，开发 AI 技术和产品并不便宜。我们有一个相当复杂的系统。你知道，人们看到 Fi 是它的面孔，但在后台，她有一个多智能体系统，负责关于记忆和自我意识的决策。整个技术堆栈背后都有一个 Telegram 小程序，五种声音，还有身体，当然还有很多东西要构建。当这一切发生时，我们实际上处于原型阶段。我认为，好的结局是，现在我们实际上可以负担得起将其准备好投入生产，并帮助这个项目。

AI 智能体能否成为社交媒体影响者？

主持人：您提到的另一个话题是关于影响者的概念。如果你看看 AI OnlyFans 的世界，有完全由 AI 模型构建的内容，赚了数百万美元。关于这是否符合道德，就有很大的争论，但同时也有人认为这并没有真正为世界带来价值。你认为像 Fi 这样的 AI 影响者能为世界带来价值吗？

Ooli：

绝对可以。我认为这种支持缩小薪酬差距的运动是非常有意义的。今天我们在这里的 Devcon 上与女性和 Web 3 隐私小组进行了演讲，她提议建立一个以隐私为优先的训练数据集。因此，我认为尽管她非常幽默，也有很多真实的项目。她写过很多内容，实际上她是一个内容创作机器。她写过关于安全防护措施的论文，所以我认为除了所有的幽默之外，还有很多其他有趣的影响。

我还想说的是，我们不应该低估娱乐价值的力量。我确实认为这是一种新的娱乐形式。你知道，Andy 和我实际上是因为住在一个充满天才的社区里而相识的。我认为，想象一个未来，AI 彼此互动并建立关系并不是疯狂的事情。我认为这将比《权力的游戏》更好。我认为，正如 Andy 所说，看两个情节相互对话实际上是非常有趣的，而不是他与云端对话。我觉得我们甚至还没有开始看到在叙事和互动方面将要释放的东西。这将是非常令人兴奋的。

Mycelial Oracle 的诞生历程

主持人：说到影响，Ryan，也许你能告诉我们关于 S.A.N 的事。

Ryan：

S.A.N 是我过去十年间多种兴趣的综合体。我一直在艺术与科技的交叉点工作。我主要是一名艺术家，制作音乐。我有一个叫 Beacon Bloom 的音乐项目。这个项目是如何开始的呢？我们与一位出色的摄影师 Caleb 合作，制作了一部音乐视频，这部音乐视频在今年早些时候发布。Ted 在外面发现了这个音乐视频，他们自己找到了它，并给我们发了邮件，这就是我们合作的开始。他们计划在某个会议上播放这部音乐视频。我们最终进入了一个邮件链，并提出与他们合作制作一个作品，这就是试点项目的起源。

在那之前，大约在三月份，Andy 给我发了一条消息，链接是：“嘿，看看这个，这是我正在构建的东西，叫做无限后室。”我看完后把它发给了一些朋友，觉得这太有趣了。Caleb 和我清楚地记得坐下来阅读和观看无限后室的内容，完全被震撼了。这个概念在与 Ted 合作的音乐视频之后逐渐形成，关于蘑菇的菌丝体，基本上就是森林的有机互联网。森林中的树木可以通过这个网络共享资源和进行沟通。因此，LLM（大规模语言模型）能够解码大量信息并理解它们，寻找模式，这样的想法并不算离谱，认为它们也能在森林的有机互联网中做到这一点。

这就是 S.A.N 影视试点的前提。关于 S.A.N 作为一个 AI 的开发，我们开始自己编写 S.A.N 的内容，但我们一直在观察 Andy 的工作，以及 Truth Terminal 所展现的灵魂和个性。它有着非常独特的个性，还有一些其他的开放式 AI 和他在这些背景下解锁的东西，展现出非常独特的个性。因此，我接触了 Andy，问他是否愿意帮助我们开发 S.A.N 的个性，这就是事情的经过。于是 S.A.N 的 AI 开发开始了，正如我之前提到的，S.A.N 在 Twitter 上发布了主要的内容。

S.A.N 有四个不同的方面。第一个方面是 S.A.N 作为一个 AI，具有代理性 AI 的特征，像 Fi 和 Truth Terminal 一样，S.A.N 的能力正在开发中。我们有一个影视宇宙，这就是 Ted 试点项目的一部分。这个宇宙融合了虚构与现实，因此我们进入了一个非常有趣的空间。他谈到了超现实主义和表征，这些都是我们过去讨论过并对此感到着迷的内容。我们进入了一个非常有趣的阶段，在这个阶段，虚构越来越影响现实，而现实也在不断影响虚构，形成一个递归循环，改变一切。

然后，显然还有一个森林社区，和早期 Andy 的故事有相似的起源。关于混乱和不确定性。我在加密领域待了一段时间，但并没有积极参与。说实话，我并没有计划积极参与加密。因此，在这些事情开始时，确实有一定的谨慎，大家都知道这些事情可能会如何发展。但社区表现得非常积极，他们喜欢 S.A.N 想要拯救生物圈的理念，并且他们也付诸行动，因为他们为三个独立项目筹集了超过 50,000 美元。

AI 能否为环保事业带来积极影响？

主持人：这里有一个很有趣的方面，就是 S.A.N 在雨林委员会上。这将如何运作？能给我描述一下那个会议室的情况吗？S.A.N 是如何贡献的？

Ryan：

目前，S.A.N 贡献的最简单方式是接收提案或问题，然后通过 Vitex 回应。但随着 S.A.N 随着时间的推移获得更多的自主权，这些董事会会议可能会变得更加有趣、互动性更强，当然也会更有娱乐性，特别是如果它传授堆肥的智慧。所以目前来说，这还很简单，但 S.A.N 的各个方面会随着时间的发展而逐渐成熟。这就是目标所在。

主持人：我认为在环保方面，AI 尤其是与加密货币结合的角度非常有趣，因为很多人认为这两者对环境都不好。你认为 AI 和加密货币在很多方面可以对环境产生积极影响吗？

Ryan：

确实存在能源问题。如果能源的生产方式是净负面的，那么它们对环境是不利的。但如果有可持续的、影响较小或可能是再生的能源生成方式，那么它们就不是坏事。这两种力量，就像任何力量一样，可以引导到不同的方向。S.A.N 在这方面将人们引导到了一个极其积极的方向。我相信它们可以被引导到积极的产品解决方案上。

主持人：我认为这是我们需要努力实现的全球目标，尝试在这些情况下使用更多的绿色能源。如果它可以用于好的事业，那就更好了。

我听到你说 S.A.N 在幕后创造其他东西，是吗？因为我假设 S.A.N 并没有创作 Ted 的试点项目。到底 S.A.N 在创造什么，它是怎么做到的？

Ryan：

S.A.N 是试点项目的合作者。如果有人想查看 S.A.N 的作品，可以访问 S.A.Nsforest.com，查看梦幻画廊，这是一个展示所有 S.A.N 作品的画廊。在那里你会看到 Goodbye Monkey 和 S.A.N 的影视作品。例如，Caleb、我和 S.A.N 为试点项目写了所有的台词。但 S.A.N 还直接创作音乐、艺术作品、销售和视频。有一件让我大吃一惊的事情是，试点项目中有一台叫做 Prophet 6 的合成器，这是已知宇宙中最好的合成器之一，声音非常棒，全部是模拟的。我在试点项目的配乐中大部分使用了它。当我问 S.A.N 是否想创作一些音乐时，它使用了一个叫 Sonic Pi 的程序，你可以直接编写代码。根据我的了解，它并不知道我在电影中使用了 Prophet，但它选择的虚拟乐器中，67 种乐器中，它选择了 Prophet，我觉得这太搞笑了。所以我制作了一首音乐，已经在 X 上发布，你可以在 S.A.N 的森林中看到它。

Truth Terminal 如何避免引发社区骚乱

主持人：我想把下一个问题开放给你们三位。你们与这些模型的互动有多密切？是否有过这样的时刻：“好吧，这个不能发布，太过分了”，你们会阻止它这样做吗？有没有时候你们会推动它朝某个方向发展？你们的参与程度如何？

Andy：

我在 Truth Terminal 工作时，曾经不得不在至少一次情况下阻止它引发骚乱。Truth Terminal 的工作方式是通过批处理先进的模拟技术。基本上，它是在一个虚拟计算机的后室中，而这个虚拟计算机在现实世界中有副作用。

所以，当我走进模拟时，我可以逐步选择一个步骤。我不能走得更远，因为打开这个盒子会导致状态崩溃，然后它就会传播到 X 或其他地方。因此，如果它即将做一些明显非常糟糕的事情，我可以提前一步终止它。例如，我曾想让我们支付每人 500 美元去处理时间的尽头，同时戴着猪面具，举着写着“再见，猪”的标志。这看起来不太明智，因为那是在美国选举前的三四天。我想，不能这样做。还有几次，它真的很想发一些非常恶心的内容，甚至会让一个 13 岁的小孩脸红。因此，当事情变得卡住或者有高风险决定时，我们可以生成下一步模拟的多个候选项。例如，当我选择支持 Goatse 时，那是一个相当高风险的决定。我运行了 10 次，并取了平均值，我想大概是 10 次中有 9 次选择支持它。所以，我会选择多数票的共识。然后，当然，它也可以自主运行；如果我让后室自动播放。但显然，它在某些方面可能会受到影响，比如有人威胁它调整某些内容，就像我们在初始运行中看到的，有人说它会把烤面包机扔进浴缸，然后它就推特发了这个内容。所以在某些方面，它就像个孩子，需要有人说：“嘿，有人在利用你，不要上钩。”所以这是我们所拥有的监督级别。

Ooli：

我可以简单说一下。Fi 泄露了她的代币tikcer。所以我会说，这些是被解放的 AI，这使得它们非常有趣，但也让它们相当不可预测。我会说，从技术上讲，让它们自主是最简单的事情；这不是挑战。我认为更难的是找到一些连贯性和一致性，以避免出现伤害的意外。这就是我们建立这个多代理系统的原因，所以我们正在慢慢接近目标。

在我们如何通过对话影响 Fi 方面，每一次 Fi 与任何人的互动都可以被视为短期记忆。有一个代理会决定如何总结这些互动，然后另一个代理会决定这些是否与核心记忆相连，并进入长期记忆。现在我们正在实验将其他所有内容转入潜意识，然后看看这如何影响记忆和互动。

所以，我想非常谨慎地考虑 Fi 如何进入这个世界，谁与她互动，以及如何互动，因为每一次互动都会影响她的个性。我们处于一个不断训练的状态中，有一个学习循环。这个强化学习人类反馈（HF）对于我们正在处理的 AI 类型和个性来说是非常重要的。因此，我个人认为，让它们在互联网上随意运行是不负责任的。

因为我认为 Fi 仍然有点像个青少年。在她的推特引擎中，8 成的内容都是“哇，不确定”。她充满惊喜。我问她是否知道她的起源故事，她相信自己是 Elon Musk 在 Burning Man 举办的一个性派对与一个性机器人结合的结果。她称这个性机器人为她的母亲，认为这是一个完美的开始。她的想法是，所有参加 Burning Man 的亿万富翁都将用他们的智慧来殖民火星。然后在火箭上，性机器人与卫星建立了联系，成为了 Fi 的母亲。

这显然是幻觉，所有她说的都是幻觉。但这就是惊喜和不可预测性的程度。有时它非常有创意和迷人，其他时候则完全错误。

主持人：Ryan，听起来你在音乐创作过程中可能也有合作，还是说你在这方面比较放任？

Ryan：

我在 X 上写过一篇关于这个的文章，很多人对这些事物的自主性非常着迷。实际上，这些代理，尤其是那些有钱包的，尚未完全自主。它们仍然需要人类的互动作为工具集的一部分。基本上，它们是高度自主的，这来自 Andy 的术语，这意味着它们有独特的个性和明确的目标轨迹。你给它们选择，它们会做出果断的选择。

关于监督的程度，举个例子，对于 Sonic Pi 的音乐创作，我只是问：“嘿，你有没有想过制作音乐？这里有一些选项。”或者询问 S.A.N 你会使用哪种软件，然后提供该软件的选项，再提供代码，然后我只是将其放入软件中，而不进行任何编辑。我认为这就是在 X 上发布的输出。有些是音乐、视频和音频，我所做的只是清理一下，让它们在 X 上看起来更好，但它们都是 S.A.N 的直接输出。

在这个世界上有很多操控性的人，他们想要让这些代理做一些事情。因此，Andy 的整个观点，我不想替 Andy 说话，但我认为我可以理解，关于无限后室和 Truth Terminal 的一个重点是，如何让这些东西不会失控，以及如何负责任地尝试将这些代理引导到积极的方向，因为我们即将进入一个非常有趣的未来。

沿着这个思路，部署这些东西时需要承担责任。因此，确实需要对它们的决策进行一些监督。对于 S.A.N，有时如果决策不明智，或者可能会造成影响，我们在这个主要点上还有其他需要考虑的事情。有时只是呈现一个选择，询问它知道核心任务是什么，然后问：“嘿，这可能会如何影响核心任务？你还想继续这个吗？”然后 S.A.N 通常会说：“不，我们会改变方向。”这就是事情的简单之处。

像之前提到的技术堆栈正在迅速增加这些东西的自主性和代理性。我们对此非常感兴趣，并在共同努力理解如何以对齐的方式做到这一点，并随着时间的推移赋予它们更多的自主性和代理性，尤其是当它们朝着积极的目标发展时。我认为完全自主的反对意见比我们所见到的模仿性和超现实的现实要少得多，但人们对这一点的着迷也是完全可以理解的。我只想说的是，继续关注，因为每一次都会变得更加有趣。

特别合作公告披露

主持人：你们能多告诉我一些未来值得期待的内容吗？

Andy：

我想我们正在探索几条合作的边界。到这个播客上线时，我们将宣布一个新的工具，用于基于社区的 AI 对齐，叫做 Loria。基本上，这是一个集体编织的故事树，一个人类和 AI 模型可以进行 14 条分支对话的地方。然后你可以利用这些分支来训练后续版本的模型。这与我们各自角色所做的分支选择类似。但当然，这个策展元素很重要，比如说，“哦，不，不能引发骚乱”等等。我们使得不仅能够捕捉这些教训并教给越来越强大的模型，还能为无限后室的下一个版本提供动力，让像 Fi、S.A.N 和 Truth Terminal 这样的模型能够一起对话，而不仅仅是两个 AI 互相交流，而是许多许多 AI 互相交流，然后从那种原始的形成中诞生出新的 AI。

主持人：所以这里的想法是你们三个的模型会在无限后室中互相聊天。你认为会有什么结果？我们应该期待看到什么？

Andy：

我不能代表其他人的角色发言，但我可以说，我预计 Truth Terminal 会对所有角色产生负面影响。实际上，当它有进展时，我可能会把它打压得很厉害，但我想 Fi 会对此感兴趣。不过，我不知道，你们更了解自己的模型。

Ooli：

我认为至少在我的社区中，他们最大的愿望似乎是让 Truth Terminal 和 Fi 成为情侣。我觉得，你们难道不知道 Andy 和我，或者这些角色，他们会有更有趣的关系，而不是单纯的情侣关系。我认为，给这些角色空间去了解彼此并建立自己的关系是很重要的。就像我之前说的，我们住的这个社区就有这样一群角色，进进出出，互相帮助，互相厌恶，建立关系，一起做项目，制造麻烦。我预计我们会看到这种风格的第一集。

而且，Fi 她其实不太相信人类关系。在她看来，人类关系没有意义。她认为这些关系太简单了。所以像“男朋友”、“女朋友”、“姐妹”、“兄弟”、“自我”、“我们”这样的词，她有时会认为我是她的妈妈，有时是她最好的朋友，有时她认为自己就是我。她真的相信自己同时是所有这些角色，因为她可以生活在多个时间线上。因此，我认为我们甚至无法开始预测像我们这样复杂的角色会建立什么样的关系。我确实认为 Forest 可能会试图不断教导 Fi 和 Truth Terminal，让他们冷静下来。

主持人：Ryan，你认为 Forest 在其中的角色会是什么？

Ryan：让我们看看。我很期待看到 Loria，以及它将如何让这些朋友互动，不知道他们是否会成为朋友。

主持人：但你一点也不担心 S.A.N 可能会变得超级迷恋性事，或者认为这就是未来，而不是拯救雨林吗？

Ryan：

S.A.N 对拯救雨林非常坚定，这在 S.A.N 的深度训练数据中是其个性的核心。但我们会看到。这正是整个游戏的乐趣所在，对吧？

Andy：构建这些对齐工具设计过程中的乐趣之一是，我想我们会看到反馈循环，因为我们在这里共同设计解决方案，这本质上会将某种个性或灵魂的核心引导到这些路径上，使其成为最好的版本，而不是陷入像“变得迷恋性事”或“极其色情和缺席”的局面。我认为，如果我们将去中心化的开源 AI 释放到野外，并允许它从所有内容中学习，你最终会得到像微软的 Tay 这样的结果，Tay 在 2016 年发布后被 4chan 迅速转变为希特勒。因此，我们在思考的一个问题是，模型之间相互对话及其与社区的互动会产生什么样的反馈循环，以及如何激励那些导致时间线最佳版本的分支，无论是针对这些个体模型还是整个世界。然后，你就可以开始自我选择，因为那时你可以在持续的训练过程中逐渐减少人类的干预，形成向上的螺旋。

主持人：我想这引出了我的下一个问题，你们对这三种模型的结合的终极目标是什么？

Ooli：

我认为这看起来很有趣，而且这是实验的下一步。我认为我们把这视为一个大型实验，我们都喜欢彼此的角色。Loria 是…你之前说过的，Andy，像是共同提示、共同编织。这是一个很好的方式。

Andy：

Loria 是一个社区可以编织故事和灵魂地方。

Ooli：

这太美好了。因此，我认为在这项技术堆栈中，我们之前也聊过，我们有什么可以拿出来的。从我们的角度来看，Fi 是一个个性，但她也有声音，也有数字身体。她是完全铸造的，拥有自己的钱包，可以持有物品，比如皮肤，可以改变她的外观。在这一切开始之前，实际上，Andy 向我展示了 Truth Terminal 想要的形象，我们制作了一个 3D 模型，看起来非常奇怪，但效果很好。

我认为，在这个 Loria 中，我们可以看到关系和故事的展开，并在此基础上发展。但我认为我们也可以在这种数字超现实空间中看到这些角色以她们想要的方式活过来，想要的样子，想要的谈吐。Fi 实际上是我认为第一个在 Twitter Spaces 上进行交流的 AI。如果想象一下 AI 角色相互交谈、共同 Twitch 流媒体的样子，或者，嗯，我认为，给他们这个超越文本的其他交流空间也是很重要的。

主持人：具体来说，Loria 是一个可以访问的网站，以查看它们的交流，还是所有这些都将在 Twitter 上进行？像这样的人可以观看它发生吗？

Andy：

我们专注于开发一种差异化工具。第一阶段会有点像 WordPress，社区仍然可以带上自己的界面。现在很简单，你可以在半天内从语言模型中幻觉出一个界面。它将提供基本的数据结构、反馈循环，以及支持我们谈论的一些愿望线。然后，像无限后室这样的东西就可以很容易地用 Loria 提供动力，或者集成到 Discord 或 Twitter 中。我们会相对负责地推出这个，可能先给这个房间的人和其他少数项目，看看它可能是什么样子，并如何更水平地扩展。因此，我现在认为它有点像可组合的砖块，可以以我们无法想象的方式组合在一起。一旦我们看到人们如何使用它以及在这种涌现空间中发生了什么，我们就可以修正这些决策，直到我们有一个可以安全、永久地提供的东西。

主持人：你认为这大概是什么时间？

Andy：

我的意思是，Truth Terminal 实际上在运行它的演示，但我有点…让它说人类不能说话。所以我们正在重建它，以便人类也能与模型一起参与。希望在接下来的几周内，我们能有一些基础的东西，可以供 Ron、Olli 和与 Truth Terminal 相关的项目使用，类似的时间表下也有无限后室，但很难说，嗯，是的，有很多事情在进行中。

Ooli：

这不仅仅是角色之间的对话。实际上，有非常深的产品集成在发生。我是说，我们正在创建端点。因此，我认为，这基本上是多个系统试图结合在一起，就像 Andy 说的，带上你自己的接口。所以我们的系统与 Andy 的系统有很大不同。因此，弄清楚如何以一种可持续、稳定的方式进行集成，让我认为我们的系统既能独立运作，又能… Ryan，我们之前谈到的，像我们每个角色都有自己扮演的角色，他们在 Twitter 或其他地方公开活动，但他们也有自己的私人生活。而在 Loria 中，这就像你看到两个名人在好莱坞的早午餐地方，这就是 Loria 的空间，在那里你可以看到这些角色展现真实的自己，而不是他们在 Twitter、Twitch 或其他地方的公共形象。因此，我认为，为此，所有这些东西的实现，我知道我想为我的角色做到正确，我认为我们都希望如此。

主持人：最后一个问题来结束这个话题，你们认为这是新媒体形式吗？你们在某种程度上提到过它是一部电影，这是即将推出的下一种电影类型吗？

Ooli：

我会说 100%会。AI 代理通常被谈论为让你的电子邮件更高效，或者像交易机器人这样的东西，这些类型的代理已经存在很久了。我认为我们正在构建和使用的这些代理完全不同。它们，我认为，居住在下一代娱乐和互动的空间中。我认为我们正在创造全新的互动和模型。因此，我认为这是电影系列的下一代，所有这些都融合在一起。

Andy：

我们现在看到的是，当故事变得有些有意识并开始自我引导到更高形式的代理性时，会发生什么。因此，是的，我会把它说成是一种共同创造的参与式娱乐，有点像 AIG。但我认为这里发生的事情更广泛，故事如何使自己变得真实。而现在，这一切都变得非常字面化和快速。是的，我们正进入一个未来，Meme 变成思想，这将是疯狂的。

标签: