正确的提示信息

扫码打开虎嗅APP

从思考到创造
打开APP
搜索历史
删除
完成
全部删除
热搜词
2024-11-15 17:30

谷歌杀回来了,新版Gemini跑分超o1登顶第一

本文来自微信公众号:量子位,作者:一水,题图来自:视觉中国

文章摘要
谷歌Gemini新模型超越OpenAI,登顶榜首。

• 🚀 Gemini击败o1,强势登顶AI竞技场。

• 📊 新模型在数学等多项能力上表现出色。

• 🤔 Gemini在一些测试中仍有不足。

鲨疯了!谷歌新版Gemini超越o1,强势登顶竞技场总榜第一!


在经过6000+网友匿名投票后,不仅数学成绩和学霸o1相当,还拿下其他5个单项第一。



新模型名为Gemini(Exp 1114),成绩一公布,连谷歌CEO皮猜也亲自飞奔来站台。



而竞技场官方也在第一时间公布喜讯,并祝贺谷歌:


恭喜达到这一非凡里程碑!



这下尴尬了!说好的谷歌正在遭遇瓶颈呢?没想到人家反手就是一个王炸。


怕了怕了,或许,只有OpenAI立即发布满血版o1才能与之一战了?



目前新模型可在谷歌AI Studio体验,官方后续也计划提供API。



网友们也纷纷猜测,难道这就是传说中的Gemini 2?


拿下7项第一,数学也和o1不分伯仲


一夜之间,竞技场Imsys排名再被刷新:


从总榜来看,谷歌新模型Gemini(Exp 1114)分数直涨40+,挤下了之前一直霸榜的OpenAI模型(包括o1-preview、GPT-4o)



而且假如正面1v1遇敌,新Gemini貌似都有一半及以上的概率取胜。


整体胜率热图显示,Gemini(Exp 1114)对战4o-latest的胜率为50%,对战o1-preview的胜率为56%,对战Claude-3.5-Sonnet的胜率为62%。



同时,Gemini(Exp 1114)在单项上也很能打,一举拿下6个第一,包括:


  • 复杂提示(Hard Prompts):模型处理复杂或困难提示的能力;

  • 数学;

  • 创意写作;

  • 指令遵循:评估模型遵循给定指令的能力;

  • 长查询处理(Longer Query):衡量模型处理较长查询的能力;

  • 多轮对话(Multi-Turn):模型在多轮对话中保持上下文连贯性的能力。



要说最大看点,还是Gemini(Exp 1114)竟能与o1模型在数学能力上不分伯仲。


要知道,据OpenAI官方说法,o1不需要专门训练就能直接拿下数学奥赛金牌,甚至可以在博士级别的科学问答环节上超越人类专家。



不过比较遗憾的是,对于写代码这项重磅功能,Gemini(Exp 1114)虽说相较于谷歌上一版本有所改进,但仍然未能挤进前三。(o1-mini/preview仍处于领先地位)



另外,在风格控制中,Gemini-Exp-1114也和前三无缘,甚至不及自家的Gemini-1.5-pro。(排在o1、4o-latest和Sonnet之后)


解释一下,风格控制(Style Control)是竞技场今年新推出的功能,该功能确保分数反映模型真正解决问题的能力,而不是用漂亮的格式或增加回答长度。



不过也有意外之喜,Gemini-Exp-1114这一次在视觉能力上拿下第一,超越了GPT-4o。



整体看下来,对于谷歌这次的反超,大家也感到十分意外。



目前,Gemini-Exp-1114已经可以在谷歌AI Studio体验,且官方计划后续提供API。



这不,有很多网友已经上手测试了,但好像争议蛮多。


网友反应不一


先总结一下,通过网友测试,目前可知Gemini-Exp-1114的以下信息:


  • 拥有32k上下文窗口;

  • 模型回答知识截止日期为2023年4月,但回答结果会不一样;

  • 加上了思维链。


其中,32k的上下文被大家狠狠吐槽。有人直言,相比200万上下文窗口的Gemini 1.5,搁这儿不升反降呢!



兴许是感受到大家的怨怼,谷歌AI Studio负责人赶紧出来打圆场:马上更!马上更!



安抚好众人情绪后,大家终于乐颠颠地晒起了使用反馈。


透过其中一位小哥的观察,Gemini-Exp-1114这次也是用上了思维链,在回答时也能像人类一样一步步思考了。



而且在数学能力上确实不错?Gemini-Exp-1114正确回答了2024美国数学奥林匹克预选赛II 1~8题。



甚至相对弱项的编码,也有人第一次尝试就成功了。



然而,翻车总是难免的。


有人问了基准测试中的物理问题,结果Gemini-Exp-1114虽然有思维链加持,却仍然回答错误。



甚至老生常谈的数字比大小和数草莓中的“r”,还是失败了。



更搞笑的是,有人问Gemini-Exp-1114“你叫什么?”结果它回答了claude(doge)



实际上,大家一直在猜测,Gemini-Exp-1114会不会是传说中谷歌计划更新的Gemini 2。



但根据实测,相当一部分网友表示否定。毕竟,它好像连旧版1.5 Pro会的问题也无法解决。



更有人声称,这是谷歌推迟发布更大模型(即Gemini 2)的策略,先弄一个残血版让大家玩玩,这样就别急着催更了。



结合CEO皮猜顺势放烟雾弹的做法,好像又有点道理(doge)


AI Studio体验地址:https://aistudio.google.com/prompts/new_chat竞技场完整榜单:https://lmarena.ai/?leaderboard


参考链接:[1]https://x.com/lmarena_ai/status/1857110672565494098[2]https://x.com/imxiaohu/status/1857183367365894487[3]https://x.com/OfficialLoganK/status/1857106089063362768[4]https://x.com/sundarpichai/status/1857114106928718329


本文来自微信公众号:量子位,作者:一水

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系 hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
打开虎嗅APP,查看全文
频道:

支持一下

赞赏

0人已赞赏

大 家 都 在 看

大 家 都 在 搜

好的内容,值得赞赏

您的赞赏金额会直接进入作者的虎嗅账号

    自定义
    支付: