加拿大初创公司推出 Command A 轻量级 AI 模型,号称仅需两块英伟达 A100 / H100 GPU 即可部署

发布时间:2025-03-24 13:53:31 来源:互联网

本站 3 月 14 日消息,加拿大 AI 初创公司 Cohere昨日发布了一款名为“Command A”的 AI模型,该模型主打轻量化应用,号称只需要两块英伟达 A100 或 H100 GPU 即可轻松部署,号称“表现能和 GPT-4o 相媲美”,实现“用最少的硬件发挥最大的性能”。

Cohere 表示,Command A 专门为中小型企业环境设计,其支持 256k 的上下文长度和 23 种语言,作为比较,其他竞争对手的“同类模型”需要 32 块 GPU 才能部署。

在性能测试中,Command A 最快每秒可以输出 156 个 Token,据称比 GPT-4o 快 1.75 倍。而在指令追踪、SQL、代理程序和工具任务的基准测试上,Command A 也表现出色。

Cohere 援引相应性能数据,声称业界的大语言模型如果“规模过大”,反而在输出结果时可能会出现严重的延迟问题;如果只是想快速得到正确答案,Command A 相对是个不错的选择。

目前,Cohere 已将相应 Command A 发布在Hugging Face 平台(点此访问),对学术界开放使用,未来还会登陆其他云服务平台。

本周热门教程

1
《肉蔻之香2意大利版》游戏评测:新玩法与意大利风情如何完美结合?

《肉蔻之香2意大利版》游戏评测:新玩法与意大利风情如何完美结合?

2025/03/13

2
为什么在AE中选择一级和三级做AE的工作顺序对项目效果至关重要?

为什么在AE中选择一级和三级做AE的工作顺序对项目效果至关重要?

2025/02/20

3
星空无限传媒官网提供免费观看电视剧的优势与体验:无需付费畅享热门剧集

星空无限传媒官网提供免费观看电视剧的优势与体验:无需付费畅享热门剧集

2025/03/13

4
“3个男人躁我一个爽”:如何看待社会对男性欲望的讨论?解析背后的性别观念与社会反思

“3个男人躁我一个爽”:如何看待社会对男性欲望的讨论?解析背后的性别观念与社会反思

2025/03/17

5
《韩国大尺度电影《偷欢2》引发的争议与思考:它对社会的深层次反映是什么?

《韩国大尺度电影《偷欢2》引发的争议与思考:它对社会的深层次反映是什么?

2025/03/17

6
韩国电影《教室爱欲》:这部充满争议的电影背后究竟隐藏了哪些深刻的社会议题?

韩国电影《教室爱欲》:这部充满争议的电影背后究竟隐藏了哪些深刻的社会议题?

2025/01/01

7
中国网络文化下的“熟老太HDt∪be”:如何反映社会审美的多元化与女性形象的转变?

中国网络文化下的“熟老太HDt∪be”:如何反映社会审美的多元化与女性形象的转变?

2025/03/05

8
刚结婚陪丈夫出差的日子:如何面对新婚生活中的离别与独立?

刚结婚陪丈夫出差的日子:如何面对新婚生活中的离别与独立?

2025/03/12

9
为什么越来越多的人选择直接看9.1电影?它能带给我们哪些优势和体验?

为什么越来越多的人选择直接看9.1电影?它能带给我们哪些优势和体验?

2025/03/13

10
如何选择大地资源二中文在线观看高清?超清画质给你最佳观影体验

如何选择大地资源二中文在线观看高清?超清画质给你最佳观影体验

2025/03/04