Stability.ai 创始人表示，为什么开源对于减轻人工智能恐惧至关重要
来认识一下反 OpenAI 先生。 Stability.ai 创始人 Emad Mostaque 坚称，“你无法使用黑盒模型”来获取世界上最有价值的数据。
在 Stability.ai 网站上摆弄旋钮可能会成为一种令人上瘾的消遣时间，持续一个小时左右。使用这家成立四年的英国初创公司开发的 DreamStudio 软件程序，人们只需输入一句短语即可创建精美的插图，例如“在前往 Ceti Alpha V 的途中，通过恒星巡洋舰的窗户看到高度多样化的 ZDNET 作者”。 ”。
通过使用这种语言——即时工程——人们可以添加不同的场景，例如“ZDNET 的作者是一支由半人类、半熊猫战士超级英雄组成的星际力量，他们的服装前面戴着一个巨大的 Z 字样。”
或者，人们可以对现有照片进行变形，例如 Stability.ai 创始人兼首席执行官 Emad Mostaque 的头像，直到他的特征变成粘土或玻璃碎片，这一过程类似于 Photoshop 滤镜的效果。
一年前突然出现的 DreamStudio 软件是最近涌现的“生成”人工智能程序之一，类似于 OpenAI 的 ChatGPT。
但莫斯塔克正在将自己定位为反 OpenAI 的人。他的论点是，ChatGPT 和 DreamStudio 等程序对人类的未来非常重要，如果我们要信任这些程序保存我们的敏感数据，世界——尤其是商界——将要求知道这些程序是如何工作的。 。
“开放模型对于私人数据至关重要，”莫斯塔克上个月在 Zoom 举行的一次小型媒体和高管会议上表示。 “你需要了解其中的一切；这些模型非常强大。”
他认为这很重要，因为“很多人意识到世界上大多数有价值的数据都是私人数据，受监管的数据，”，莫斯塔克说。 “你不可能在健康聊天机器人、教育或金融服务中使用黑盒模型，而开放模型，具有开源基础，但具有许可的变体数据，然后是公司的私人数据非常重要。”
莫斯塔克的商业计划可以概括为：“即使其他人都是封闭的，我也可以成为开放的领导者。”
在 Stability.ai 的 DreamStudio 中使用提示创建的图像：“高度多样化的 ZDNET 作者通过他们的恒星巡洋舰的窗户看到前往 Ceti Alpha V 的途中。”
Mostaque 所说的“关闭”是指 OpenAI 在 3 月份决定不透露有关其最新生成式 AI 程序（称为 GPT-4 的大型语言模型）的任何技术细节。一些人工智能学者警告称，此举可能会对研究产生寒蝉效应，而且缺乏披露会产生巨大的道德影响。
Stability.ai 是众多商业和学术团体之一，他们通过创建替代方案来应对 OpenAI 缺乏披露的情况。有些致力于开放本身。其他人则认为开源软件将带来更高的效率，以应对大型语言模型带来的巨大计算预算。
前对冲基金经理莫斯塔克看到了一个巨大的商机，用他的话说，“一个非常大的套利机会”，用精算术语来说就是“最大限度地减少企业的最大遗憾”。
他认为，工程和科学的开源世界可以减轻企业对人工智能的担忧，尤其是 ChatGPT 及其同类产品的许多公开问题。这包括但不限于“幻觉”，即程序给出错误的答案；偏见;不道德的输出；和侵犯版权。
该图片由 Stability.ai 的 DreamStudio 创建，并附有提示：“ZDNET 的作者是一支由半人类、半熊猫战士超级英雄组成的星际力量，他们的服装前面戴着一个巨大的 Z。”
正如 Mostaque 所看到的科学与商业伙伴关系一样，开源软件将基于开放数据，为每种模式生成一个基准模型，从公共到公共，然后为每个部门提供商业许可的轴承，让你了解每一件事就在那里”，意思是在程序及其训练数据中。
术语“模态”是指数据的媒体类型，例如文本、图像、声音。 Mostaque 的愿景是所有模式都将由开源人工智能程序实现，而不仅仅是风靡一时的自然语言类型。
Stability.ai 的努力是一个正在形成的共识的一部分，即许多机构应该在 OpenAI 等机构陷入困境时用代码来弥补这一漏洞。
一些团体只是在 OpenAI 的 GPT 早期版本的基础上进行构建，例如 AI 硬件制造商 Cerebras Systems 在 3 月份推出的一项成果，该公司以开源形式发布了自己经过训练的 GPT 程序版本。
但也有一种协作生态系统正在酝酿之中。
Facebook 所有者 Meta 的人工智能小组在 2 月份发布了用于自然语言处理的开源 LLaMA，随后斯坦福大学的研究人员基于该软件创建了 Alpaca。然后，来自加州大学伯克利分校、卡内基梅隆大学、斯坦福大学、加州大学圣地亚哥分校和阿布扎比穆罕默德·本·扎耶德人工智能大学的联合团队在 LLaMA 的基础上创建了另一个名为 Vicuna 的程序。
上周，Mostaque 的公司发布了一个开源大型语言模型，名为 Stable Vicuna，基于 Vicuna 程序。 （骆驼毛是一种南美哺乳动物，这是对开源项目中动物名称的悠久传统的致敬。）
过去几年，莫斯塔克一直在与各种机构合作。 DreamStudio 所基于的技术称为稳定扩散，与 OpenAI 的 GPT 类似。它允许根据用户输入的字符串生成图像。
稳定扩散是由 Stability.ai 与德国慕尼黑路德维希马克西米利安大学计算机视觉与学习研究小组的研究人员合作开发的，该研究小组发表了有关“潜在扩散”的原创作品。
正如 Robin Rombach 及其 Ludwig Maximilian 同事在去年的论文中所描述的，潜在扩散工作旨在减少图像生成的巨大计算预算，这是所有人工智能任务中计算最密集的任务之一。
Stability.ai 还注重规模经济。莫斯塔克指出，稳定的扩散软件是“将十万千兆字节的图像压缩为两千兆字节的文件”。
莫斯塔克设想，通过减少计算预算，大型人工智能模型技术可以应用在每部智能手机上，成为每个人的私人助手。
“这是下一代基础设施，”他说。
Mostaque 受邀在 Collective[i] Forecast 主办的 90 分钟演讲中发表演讲，Collective[i] Forecast 是一个在线互动讨论系列，由 Collective[i] 组织，自称是“旨在优化 B2B 销售的人工智能平台”。
Mostaque 在 18 岁时开始了他的职业生涯，编写汇编语言例程。 “现在的孩子们很容易：GitHub 上一半的代码是由人工智能生成的，”他观察到。
他说，当他的儿子被诊断出患有自闭症时，清真寺受到了人工智能的启发。 “每个人都觉得，没有治愈方法，没有信息，”他回忆道。 “我们建立了一个人工智能团队，我们建立了一个程序来分析所有[关于自闭症]的文献，然后建立一个路径分析模型来评估潜在的原因，以便确定可以在医疗援助下为他重新使用的药物。
“他最终去了一所主流学校，我认为这很酷，”莫斯塔克说。
现在，莫斯塔克认为，通过可广泛分发的紧凑、高效的人工智能程序，可以将人工智能的好处扩展到其他人类。
从道德上讲，我们处于正确的位置，”他说，“就将这项技术带给每个人而言，我们不关注取代人类的 AGI（通用人工智能），而是关注如何用小型、灵活的模型来增强人类能力。”
免责声明：使用人工智能生成的图像可能会导致版权侵权，因此人们在将图像用于商业目的时应小心谨慎。