就在过去的一周中,GPT-4、文心一言、Claude、Alpaca、Google PaLM API、Microsoft 365 Copilot—— 这些 AI 大模型的炫酷烟花,接连在上周绽放。好像每天都在创造历史,世界在瞬息万变。让我们一起回顾一下这非同寻常的一周吧!
3 月 13 号,周一
唯一没有大新闻的一天。大家还在猜测 GPT-4,以及讨论前周五发布的 Visual ChatGPT 相关信息:
3 月 14 号,周二
斯坦福大学发布 Alpaca 7B,成本降到超低,性能匹敌 GPT-3.5。清华推出 ChatGLM-6B,消费级显卡就能部署,准确度接近 GPT-3 175B (davinci)。
Alpaca 7B 是斯坦福大学发布的一种模型,它是由 LLaMA 7B 模型在 52000 个指令跟随(指它可以根据给定的指令生成文本,而不是根据给定的文本生成指令 )演示的基础上进行微调得到的。Alpaca 7B 的表现类似于 OpenAI 的 text-davinci-003 模型,但是它的大小却小得多,而且成本很低(<600 美元) 。
这个低成本特性是由 LLaMA 7B 模型所带来的,有多低请看演示。
此外还有清华的 ChatGLM-6B 。这是一个开源的、支持中英双语的对话语言模型,基于 General Language Model (GLM) 架构,具有 62 亿参数。ChatGLM-6B 使用了和 ChatGPT 相似的技术,针对对话场景进行了优化,可以支持多种对话任务,如闲聊、问答、推荐等 12。不过,有一些批评的声音:
ChatGLM 和 ChatGPT 的对比:
当然现在公开的 demo 是 6B 的,据说有个 130B 的 DEMO 效果更好一些:
3 月 15 号,周三
狼真的来了!GPT-4 在此日公布。由于网上消息和解读已有很多,官方也提供了一篇详细的论文,因此不再赘述。
我也凑了个热闹,写了篇 “一些你可能不知道的 GPT-4 小知识”
这一天大消息不止一个:Goolge 宣布 PaLM API & MakerSuite,用以支持构建生成式 AI 应用的原型 。
PaLM API 并不是一个语言模型,它只是 “Google 的大型语言模型的简单入口,可用于各种应用程序”。说白了,更像是一种服务集成用 API。<- 以上是我个人总结,官博的介绍写的摸不着头脑,其他推友也吐槽过:
此外还有:由从 OpenAI 出走的前员工们集体创建的 AI 初创公司 Anthropic,公开发布类 ChatGPT 的 AI 助手 Claude。之前 Claude 一直处在内测阶段。
“Claude 是下一代 AI 助手,基于 Anthropic 对训练有用、诚实和无害的 AI 系统的研究。Claude 可通过我们的开发人员控制台中的聊天界面和 API 进行访问,能够执行各种对话和文本处理任务,同时保持高度的可靠性和可预测性。”
另:AI 公司 Adept 在 B 轮融到了 $350M。他们的产品类似于你说我(AI)做。
3 月 16 号,周四
Pytorch 2.0 正式发布。
大名鼎鼎的 Pytorch 相信即使没接触机器学习的人都听过它的名字。
2.0 版本在完全向后兼容的同时从根本上改进了 PyTorch 在编译器级别的运行方式,比以前 PyTorch 1.0 中默认的「eager mode」所提供的即时生成代码的速度快得多。
HuggingFace Transformers 的 Sylvain Gugger 写道「只需添加一行代码,PyTorch 2.0 就能在训练 Transformers 模型时提供 1.5 倍至 2.0 倍的速度」
Midjourney V5 发布:AI 画手” 画 “手不再困难。V5 模型采用了先进的工具和新的神经架构来生成美学和设计, 显著改善了生成图像中手和手指的表现,还提供图像到文本功能。
3 月 17 号,周五
微软继续发力,发布了 Microsoft 365 Copilot。
Introducing Microsoft 365 Copilot | Microsoft 365 Blog
Microsoft 365 Copilot 是一款由 Microsoft 推出的人工智能助手,它由 OpenAI 的 GPT-4 驱动,可以帮你搞定文档、电子邮件和演示文稿等任务。想象一下,它就像个聊天机器人助手,融入你日常使用的 Word、Excel、PowerPoint、Outlook 和 Teams 等应用中。
Microsoft 365 负责人 Jared Spataro 兴奋地说,Copilot 虽不是完美无缺,但确实能提高工作效率。它能与 Outlook 整合,让你在处理邮件时轻松愉快。它还能在 Microsoft Teams 上给你提供会议内容总结,让你不再错过重要信息。微软还在酝酿一个商务聊天功能,让你在所有 Microsoft 365 数据和应用中无缝沟通。
此前,微软已经将 AI 驱动的 ChatGPT 与必应结合,未来还打算进一步将 OpenAI 的强大的大语言模型整合到 Microsoft 365 产品中。
目前,微软正与 20 个客户一起测试 365 Copilot。作为 OpenAI 的密切合作伙伴,微软正全力以赴在先进人工智能领域与谷歌、亚马逊和 Meta 等公司竞争。
最后,终于到了百度的文心一言了:
“百度文心一言是一款基于百度自研的 ERNIE 模型的聊天机器人,可以进行语义理解、智能问答和情感交流等多种形式的对话。 百度文心一言是国内第一家对标 ChatGPT 的产品。”
由于解读的文章已经很多了,在此就不班门弄斧了,只谈谈自己的感想:百度曾经作的恶,让我永远不会摘掉对它的有色眼镜,加上中文圈语料的不靠谱,因此我对文心一言并没有多少期待。当天发布会直接跌没了的 10% 让我觉得也理应如此,但没想到昨天居然补涨了 16%。也许,还是有那么一点希望在的。
如果这篇有帮助,请订阅转发,也可以 fo 我的推特。我将带给你更多关于 Web3,Layer2,AI,以及日本相关咨询: