神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。
编者按：生成式人工智能是硅谷投资界的新宠儿，每个投资者都想尽早参与到这个大事件中来。在所有生成式的人工智能模型中，Stable Diffusion 可谓一枝独秀，因为它是开源的，且在生成图片方面几乎没有限制。有人质疑这种做法太过激进，而 Stability AI 的创始人兼首席执行官伊马德·穆斯塔克（Emad Mostaque）认为，人工智能的发展日新月异，开源才是利用 AI 的最好方式。本文来自编译，希望对您有所启发。
2022年10月19日，旧金山，初创公司 Stability AI 的创始人兼首席执行官伊马德·穆斯塔克。Stability AI 是一家初创公司，开发出了备受争议的 Stable Diffusion 图像生成器。该公司的庆祝活动也代表着人工智能新热潮的到来。(Jason Henry/The New York Times)
在硅谷，加密货币和元宇宙已经过时，而生成式人工智能正在兴起。
这一点在 2022 年 10 月 17 日的旧金山探索博物馆（San Francisco exploration museum）得到了验证。在那里，AI 作图软件 Stable Diffusion 背后的初创公司 Stability AI 举办了一场派对，感觉很像是回到了疫情前的繁荣。
此次活动吸引了包括谷歌联合创始人谢尔盖·布林（Sergey Brin）、AngelList 创始人纳维尔·拉维肯特（Naval Ravikant）和风险投资家罗恩·康威（Ron Conway）在内的科技名人参加。活动被宣传为 Stability AI 的发布派对，也是该公司最近 1.01 亿美元融资的庆祝活动，据报道，这轮融资对该公司的估值为 10 亿美元。
但它同时也是整个生成式人工智能（generative artificial intelligence）领域的登场狂欢。生成式人工智能是一个总称，它不仅能分析现有数据，还能生成新的文本、图像、视频、代码片段，等等。
对于“将文本提示转化为图像”的生成式人工智能应用程序来说，这是重要的一年。与代币或虚拟现实元宇宙不同，生成式人工智能应用程序实际上有足够的数字来证明其传播广泛程度。OpenAI 今年发布了图像生成器 DALL-E 2，据该公司称，目前已有 150 多万用户每天生成 200 多万张图像。Midjourney 是今年发布的另一款颇受欢迎的人工智能图像生成器，其官方的 Discord 服务器有超过 300 万用户。谷歌和 Meta 也已经构建了自己的图像生成器，但还没有向公众发布。
这样的增长机会在投资者中引发了一场疯狂的投资热潮，他们希望早早地参与到下一个大事件中来。Jasper 是一款为营销人员开发的人工智能文案应用，已经开发了一年了，最近筹集了 1.25 亿美元，估值为 15 亿美元。创业公司已经筹集了数百万美元，将生成式人工智能应用于游戏、编程和广告等领域。风险投资公司红杉资本（Sequoia Capital）最近在一篇博客文章中表示，它认为生成式人工智能可以创造“数万亿美元的经济价值”。
但是，没有一个生成式人工智能项目像 Stable Diffusion 那样引发了如此多的争议。
这在一定程度上是因为，与许多生成式人工智能项目不同，Stable Diffusion 是开源的，可以免费使用，这意味着任何人都可以查看或下载代码，并在个人电脑上运行修改后的版本。据该公司称，自 8 月发布以来，已有超过 20 万人下载了这段代码，使用基于 Stable Diffusion 算法构建的工具已经创建了数百万张图像。
这种放任的方式也延伸到了图像本身。其他人工智能图像生成器有严格的规则，以防止用户创建暴力、色情或侵犯版权的图像。与之相比，Stable Diffusion 只有一个基本的安全过滤器，任何自己创建应用程序的用户都可以轻松绕过该过滤器。
这种自由度让 Stable Diffusion 在地下艺术家和表情包制作者中大受欢迎。但它也引发了广泛的担忧，即该公司宽松的规则可能会导致大量暴力图片、裸露图片、虚假宣传图片和错误信息图片等的传播。
目前，Stable Diffusion 及其开源子程序已经被用来制作了大量令人反感的图片。根据对 Twitter 的快速扫描判断，该平台上有数量惊人的色情动漫作品。最近，Reddit 上的几个论坛因为未经同意传播大量裸体照片而被关闭了，这些裸照大多是用 Stable Diffusion 制作的。该公司试图控制这种混乱局面，它告诉用户不要“生成任何让你羞于给你母亲看的内容”，但没有设置更严格的过滤器。
加利福尼亚州的美国众议员安娜·埃肖（Anna Eshoo）最近给联邦监管机构发了一封信，警告说有人利用 Stable Diffusion 制作了“被暴力殴打的亚洲女性”的图像。埃肖敦促监管机构打击“不安全的”开源人工智能模型。
Stability AI 的创始人兼首席执行官伊马德·穆斯塔克对内容限制的想法进行了反击。他认为，彻底的自由对于实现他的愿景（不受企业影响的大众化人工智能）是必要的。
他在最近的一次采访中重申了这一观点，并将自己的观点与他所说的“科技巨头对人工智能采取的强硬、家长式的做法”进行了对比。
“我们信任人民，我们信任社区，”他说，“而不是让一个科技巨头控制世界上最强大的技术。”
39 岁的穆斯塔克是生成式人工智能产业的一个古怪的领头人。他没有人工智能方面的博士学位，也没有在谷歌或 OpenAI 等人工智能项目通常所在的大型科技公司工作过。他是一名英国前对冲基金经理，在过去 10 年的大部分时间里从事石油交易，并就中东战略和伊斯兰极端主义威胁向企业和政府提供咨询服务。最近，他组织了一个智库和技术团体联盟，试图利用大数据来帮助政府针对 COVID-19 做出更好的决定。
穆斯塔克最初亲自为 Stability AI 提供资金，但他很快就成为人工智能领域一个两极分化的人物。更大、更传统的人工智能组织的研究人员和高管认为，穆斯塔克的开源方法是天真的，或者说是鲁莽的。一些人担心，不加限制地发布开源生成式人工智能模型，可能会引发监管机构和公众的反对，从而损害整个行业。
但在 10 月 17 日，穆斯塔克赢得了数百名人工智能研究人员、社交媒体高管和科技推特名人的掌声。
他对谷歌和获得微软资助的 OpenAI 等科技巨头进行了多次含蓄的抨击。他谴责“定向广告”是谷歌和 Facebook 商业模式的核心，称其为“操纵技术”。他还表示，与这些公司不同，Stability AI 不会建立监视用户的“全景监狱”。
穆斯塔克还宣布，公司用来训练最佳模型的计算机将在 2023 年扩大到目前的 5 到 10 倍。该计算机拥有 5000 多张高性能显卡，已经是世界上最大的超级计算机之一。这种实力将使该公司能够从人工智能生成图像，扩展到生成视频、音频和其他格式的文件，并使世界各地的用户更容易操作其算法的本地化版本。
一些人工智能批评人士担心，这项技术可能会让艺术家和其他创造性工作者失去工作。与他们不同，穆斯塔克认为，将生成式人工智能交到数十亿人手中，将带来新机会的爆炸式增长。
他说：“世界上很多人在创作方面都很费劲儿，而我们要让他们能灵感迸发。”
如果这一切听起来似曾相识，那是因为穆斯塔克的理念与上一代科技创始人的乌托邦梦想相呼应，比如 Facebook 的马克·扎克伯格（Mark Zuckerberg）和 Twitter 的杰克·多尔西（Jack Dorsey）的梦想。这些人也曾竞相将强大的新技术送到数十亿人的手中，而几乎没有停下来考虑过可能产生的危害。
当我问穆斯塔克，他是否担心在人工智能尚未确保安全之前，就将其释放到世界上时，他说他不担心。他说，人工智能的发展如此之快，最安全的做法就是将其公开，这样公众（而不是大型科技公司）就可以决定如何管理人工智能。
他说，最终，透明度（而不是自上而下的控制）将防止生成式人工智能成为一种危险的力量。
“你可以查询数据集，你可以访问模型，你可以审查 Stable Diffusion 的代码和我们正在做的其他事情，”他说，“而且，我们能看到它一直在被改进。”
穆斯塔克对开源人工智能乌托邦的设想，可能看起来很不切实际，但在 10 月 17 日的这场派对上，他发现有很多人都想把它变成现实。
“你不能把精灵再放回瓶子里，”来参加派对的德克萨斯州奥斯汀科技公司高管彼得·王（Peter Wang）说，“你至少可以让每个人都看看这个精灵。”
译者：Jane
