-
GPT-4变笨引爆舆论！文本代码质量都下降，OpenAI刚刚回应了质疑
梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI大模型天花板GPT-4，它是不是……变笨了？先是少数用户提出质疑，随后大量网友表示自己也注意到了，还贴出不少证据。有人反馈，把GPT-4的3小时25条对话额度一口气用完了，都没解决自己的代码问题。无奈切换到GPT-3.5，反倒解决了。总结下大家的反馈，最主要的几种表现有：以前GPT-4能写对的代码，现在满是Bug回答问题的深度和分析变少了响应速度比以前快了这就引起不少人怀疑，OpenAI是不是为了节省成本，开始偷工减料？两个月前GPT-4是世界上最伟大的写作助手，几周前它开始变得平庸。我怀疑他们削减了算力或者把它变得没那么智能。这就不免让人想起微软新必应“出道即巅峰”，后来惨遭“前额叶切除手术”能力变差的事情……网友们相互交流自己的遭遇后，“几周之前开始变差”，成了大家的共识。一场舆论风暴同时在Hacker News、Reddit和Twitter等技术社区形成。这下官方也坐不住了。OpenAI开发者推广大使Logan Kilpatrick，出面回复了一位网友的质疑：API 不会在没有我们通知您的情况下更改。那里的模型处于静止状态。不放心的网友继续追问确认“就是说GPT-4自从3月14日发布以来都是静态的对吧？”，也得到了Logan的肯定回答。“我注意到对于某些提示词表现不一致，只是由于大模型本身的不稳定性吗？”，也得到了“Yes”的回复。但是截至目前，针对网页版GPT-4是否被降级过的两条追问都没有得到回答，并且Logan在这段时间有发布别的内容。那么事情究竟如何，不如自己上手测试一波。对于网友普遍提到GPT-4写代码水平变差，我们做了个简单实验。实测GPT-4“炼丹”本领下降了吗？3月底，我们曾实验过让GPT-4“炼丹”，用Python写一个多层感知机来实现异或门。△ShareGPT截图，界面稍有不同让GPT-4改用numpy不用框架后，第一次给出的结果不对。在修改两次代码后，运行得到了正确结果。第一次修改隐藏神经元数量，第二次把激活函数从sigmoid修改成tanh。6月2日，我们再次尝试让GPT-4完成这个任务，但换成了中文提示词。这回GPT-4第一次就没有使用框架，但给的代码仍然不对。后续只修改一次就得到正确结果，而且换成了力大砖飞的思路，直接增加训练epoch数和学习率。回答的文字部分质量也未观察到明显下降，但响应速度感觉确实有变快。由于时间有限，我们只进行了这一个实验，且由于AI本身的随机性，也并不能否定网友的观察。最早4月19日就有人反馈我们在OpenAI官方Discord频道中搜索，发现从4月下旬开始，就不时有零星用户反馈GPT-4变差了。但这些反馈并未引发大范围讨论，也没有得到官方正式回应。5月31日，Hacker News和Twitter同天开始大量有网友讨论这个问题，成为整个事件的关键节点。HackerNews一位网友指出，在GPT-4的头像还是黑色的时候更强，现在紫色头像版在修改代码时会丢掉几行。在Twitter上较早提出这个问题的，是HyperWrite（一款基于GPT API开发的写作工具）的CEO，Matt Shumer。但这条推文却引发了许多网友的共鸣，OpenAI员工回复的推文也正是针对这条。不过这些回应并没让大家满意，反而讨论的范围越来越大。比如Reddit上一篇帖子提到，原来能回答代码问题的GPT-4，现在连哪些是代码哪些是问题都分不出来了。在其他网友的追问下，帖子作者对问题出现的过程进行了概述，还附上了和GPT的聊天记录。对于OpenAI声称模型从三月就没有改动过，公开层面确实没有相关记录。ChatGPT的更新日志中，分别在1月9日、1月30日、2月13日提到了对模型本身的更新，涉及改进事实准确性和数学能力等。但自从3月14日GPT-4发布之后就没提到模型更新了，只有网页APP功能调整和添加联网模式、插件模式、苹果APP等方面的变化。假设真如OpenAI所说，GPT-4模型本身的能力没有变化，那么这么多人都感觉它表现变差是怎么回事呢？很多人也给出了自己的猜想。第一种可能的原因是心理作用。Keras创始人François Chollet就表示，不是GPT的表现变差，而是大家度过了最初的惊喜期，对它的期待变高了。Hacker News上也有网友持相同观点，并补充到人们的关注点发生了改变，对GPT失误的敏感度更高了。抛开人们心理感受的差异，也有人怀疑API版本和网页版本不一定一致，但没什么实据。还有一种猜测是在启用插件的情况下，插件的额外提示词对要解决的问题来说可能算一种污染。△WebPilot插件中的额外提示词这位网友就表示，在他看来GPT表现变差正是从插件功能开始公测之后开始的。也有人向OpenAI员工询问是否模型本身没变，但推理参数是否有变化？量子位也曾偶然“拷问”出ChatGPT在iOS上的系统提示词与网页版并不一致。如果在手机端开启一个对话，它会知道自己在通过手机与你交互。会把回答控制在一到两句话，除非需要长的推理。不会使用表情包，除非你明确要求他使用。△不一定成功，大概率拒绝回答那么如果在网页版继续一个在iOS版开启的对话而没意识到，就可能观察到GPT-4回答变简单了。总之，GPT-4自发布以来到底有没有变笨，目前还是个未解之谜。但有一点可以确定：3月14日起大家上手玩到的GPT-4，从一开始就不如论文里的。与人类对齐让AI能力下降微软研究院发表的150多页刷屏论文《AGI的火花：GPT-4早期实验》中明确：他们早在GPT-4开发未完成时就得到了测试资格，并进行了长期测试。后来针对论文中很多惊艳例子，网友都不能成功用公开版GPT-4复现。目前学术界有个观点是，后来的RLHF训练虽然让GPT-4更与人类对齐——也就更听从人类指示和符合人类价值观——但也让它自身的推理等能力变差。论文作者之一、微软科学家张弋在中文播客节目《What’s Next｜科技早知道》S7E11期中也提到：那个版本的模型，比现在外面大家都可以拿得到的GPT-4还要更强，强得非常非常多。举例来说，微软团队在论文中提到，他们每隔相同一段时间就让GPT-4使用LaTeX中的TikZ画一个独角兽来追踪GPT-4能力的变化。论文中展示的最后一个结果，画得已经相当完善。但论文一作Sebastien Bubeck后续在MIT发表演讲时透露了更多信息。后来当OpenAI开始关注安全问题的时候，后续版本在这个任务中变得越来越糟糕了。与人类对齐但并不降低AI自身能力上限的训练方法，也成了现在很多团队的研究方向，但还在起步阶段。除了专业研究团队之外，关心AI的网友们也在用自己的办法追踪着AI能力的变化。有人每天让GPT-4画一次独角兽，并在网站上公开记录。从4月12日开始，直到现在也还没看出来个独角兽的大致形态。当然网站作者表示，自己让GPT-4使用SVG格式画图，与论文中的TikZ格式不一样也有影响。并且4月画的与现在画的似乎只是一样差，也没看出来明显退步。最后来问问大家，你是GPT-4用户么？最近几周有感到GPT-4能力下降么？欢迎在评论区聊聊。Bubeck演讲：https://www...
智能设备 2023-06-03 10:09:46 -
比亚迪西安工厂起火，现场浓烟滚滚！最新回应来了
（原标题：突然刷屏！比亚迪西安工厂起火，现场浓烟滚滚，是重要制造基地！最新回应来了） 6月2日，网传一则比亚迪西安工厂起火视频，视频画面显示，现场浓烟滚滚。比亚迪方面回应称，西安工厂一车间物料区发生火情，无人员伤亡，火已扑灭。图片源自网络视频截图不过，对于火情产生的具体原因，截至记者发稿前，比亚迪方面并未进行更多回应。西安高新技术产业开发区官方微博发布的消息显示，发生火情的地点为比亚迪庞关生产基地一号车间物料区。火情发生后，西安高新区公安、消防、应急等单位现场处置。6月1日14时11分，明火已全部扑灭，无人员伤亡。目前，起火具体原因调查工作正在进行中。起火工厂为比亚迪生产“重地”据悉，比亚迪庞关生产基地位于西安高新区，是比亚迪重要制造基地之一，主要生产比亚迪秦、宋DM-i等系列产品。同时，西安也是比亚迪生产布局的“重镇”。据悉，十年来，比亚迪陆续在西安布局了纯电动客车基地、30GWh动力电池项目、高端智能终端产业园项目、新能源汽车零部件等项目。2022年，比亚迪在西安累计实现产值1827亿元。其中，比亚迪汽车有限公司实现产值1362亿元，同比增长超220%。同年，西安新能源汽车产量“超车”上海，问鼎“新能源汽车产量第一城”。在西安生产的101.52万辆新能源汽车中，比亚迪生产基地生产新能源汽车99...
业界动态 2023-06-02 15:00:07 -
车主吐槽特斯拉自动雨刷功能太蠢，马斯克道歉并承诺改进
IT之家 5 月 30 日消息，特斯拉的 Model 3 和 Model Y 等车型因其很多自动化功能而受到赞誉，但自动雨刷功能却不尽如人意。特斯拉在 2018 年初为其搭载 Autopilot 2 硬件的车辆推出了自动雨刷功能，但这一功能却一直不完善，目前社交媒体平台上仍然可以看到许多对特斯拉自动雨刷抱怨的帖子...
智能设备 2023-05-30 10:51:48 -
比亚迪回应长城举报：欢迎有关部门随时调查！专家：车企生产好车，才是正道！
5月25日消息，长城汽车发布声明称，长城汽车于4月11日向生态环境部、国家市场监督管理总局、工业和信息化部递交举报材料，就比亚迪秦PLUSDM-i、宋PLUS DM-i采用常压油箱，涉嫌整车蒸发污染物排放不达标的问题进行举报。同日，比亚迪回应称，自身产品及相关检测符合国家标准，在国家权威机构通过认证...
业界动态 2023-05-25 13:39:54 -
小米回应一切！
【导读】造芯、造车、大模型，今晚，小米全部回应!中国基金报记者 米洛最会抓“风口”的雷军，最近在做什么？5月24日，小米发布了2023年一季度业绩。当季，小米集团实现营收595亿元（人民币，下同），实现经调整净利润达32亿元，同比增长13%，环比增长121%。当日晚间，小米召开业绩电话会，总裁卢伟冰等小米高管回答了一系列问题，并透露了公司在造芯、造车、大模型上的最新进展。造车：进度符合或略超预期卢伟冰表示，造车进展顺利，原计划是在明年上半年上市，目前在时间进度上符合或略超预期。今年，小米汽车还将按计划进行冬测和夏测。电话会上，卢伟冰还提到，今年一季度，小米含智能电动汽车等创新业务费用约为11亿元。AI：不做通用大模型对于今年炙手可热的AI大模型，雷军曾在微博上透露了一些动态，引发各界关注。雷军表示，小米在 Al 领域已经耕耘多年，有 Al 实验室、小爱同学、自动驾驶等团队。对于大模型，我们当然会全力以赴，坚决拥抱。我们正在研发一些有趣的技术和产品，等我们打磨好了，再给大家展示。电话会上，卢伟冰透露了更多信息。其介绍，小米集团2017年开始投入AI，几年前计划造车的时候，工作人员就基本来自AI团队。2023年4月，小米正式组建AI实验室大模型团队。目前AI人员超过1200人，涉及业务有小爱、自动驾驶等。“我们不会像OpenAI那样去做通用大模型，这是一个非常明确的结论。”卢伟冰称，小米会积极拥抱AI，将其深度与自身业务结合，提高智能化水平。截至2023年3月31日，小米AIoT平台连接的IoT设备（不包括智能手机、平板及笔记本电脑）数同比增长29.2%至6...
智能设备 2023-05-25 11:03:26 -
亚马逊中国回应“关闭应用商店”：不影响任何业务运营
5月24日消息，亚马逊中国对“关闭应用商店”一事做出声明，称停止亚马逊应用商店服务不会影响任何目前亚马逊在中国的业务运营，包括亚马逊海外购，亚马逊全球开店及亚马逊中国官方网站Amazon.cn。以下是亚马逊中国声明全文：亚马逊应用商店是供用户下载用于安卓设备的游戏和移动应用程序的应用商店。停止亚马逊应用商店服务不会影响任何目前亚马逊在中国的业务运营，包括亚马逊海外购，亚马逊全球开店及亚马逊中国官方网站Amazon...
互联网 2023-05-24 10:13:42 -
Meta回应Instagram宕机：正在努力尽快恢复正常
5月22日，据美国科技博客The Verge消息，社交媒体Instagram在全球范围内宕机。对此，Meta发言人Dave Arnold回应称，已得知一些用户在访问Instagram时遇到了问题，正在努力尽快恢复正常，对由此带来的不便深表歉意。监测网络状况的网站DownDetector数据显示，第一批故障报告在美国东部时间5月21日下午6点左右开始，峰值时超过18.6万份，目前还没有解决的迹象。 ...
智能设备 2023-05-22 11:04:40 -
格力手机核心团队已解散？格力电器回应称研发还在持续进行
5月19日晚，有媒体报道称，从多个独立信源证实，格力电器已解散手机核心团队。“后面应该不会再做手机了。”《每日经济新闻》记者就此消息向格力电器求证。5月19日晚10时许，格力电器（000651.SZ，股价34...
智能设备 2023-05-20 11:25:30 -
菜鸟万霖全员信回应上市：加快能力建设建设全球领先数智物流集团
5月19日消息，昨日晚间，在菜鸟启动IPO计划和十周年来临之际，菜鸟集团CEO万霖发出全员信，希望全体菜鸟员工加快能力建设，开启新的创业征程，争取未来十年成为全球领先的综合数智物流集团。当天，阿里巴巴控股集团发布财报，菜鸟将启动探索上市，预计在未来12-18个月内完成...
互联网 2023-05-19 13:39:31 -
交行重庆市分行联合京东落地园区数字人民币应用场景项目
“去年我就开通了数字人民币钱包，但一直没使用过，今天在银行工作人员的指导下,用数币在京东买了一些电子产品，非常便捷。”在重庆永川长城汽车制造厂工作的李经理第一次使用数币网购后说道...
区块链 2023-05-17 17:33:46 -
孙宇晨指责火币创始人李林家属涉嫌巨额砸盘，李林回应称火必应拿出证据
界面新闻记者 ｜ 司林威加密货币交易平台火必的新旧话事人突然产生了矛盾。5月16日，火必全球顾问孙宇晨在社交媒体发文，称火币（火必前称）创始人李林的弟弟涉嫌通过不正常手段大量获取零成本HT（火必交易所的平台币），并进行巨额抛售与提现...
区块链 2023-05-16 20:04:28 -
爱憎分明，谷歌员工看I/O大会：赞扬工程师，吐槽高管只会反复强调AI
5月15日消息，谷歌在上周召开了一年一度的I/O开发者大会，展示了公司最新的人工智能技术成果。据内部消息，许多谷歌员工认为工程师在公司股价大幅上涨中起到了更大的作用，而高管们则只会“一直反复强调人工智能”，这引起了员工们的嘲笑。以下是翻译内容：上周，谷歌员工们非常关注公司的年度开发者大会以及华尔街对此的积极反应。I/O大会之后，公司股票价格上涨了4.3%。从内部交流中可以看出，很多员工更倾向于将功劳归于公司的工程师，认为他们是主要贡献者，而非高管们。在谷歌的内部网站Memegen上，一张以母公司Alphabet的股价对比图的表情包最受欢迎，获得了几千个“赞”。图片左侧是公司股价下跌的图表，上面写着“高管们削减成本并回购股票”。右侧则是公司股价上涨的图表，上面写着：“工程师们完成了工作。”很多员工在评论区表扬同事，他们认为在全公司的努力下，工程师们不负众望做好了产品，准备迎接人工智能竞争的关键时刻。而在不久前，谷歌员工猛烈抨击首席执行官桑德尔·皮查伊(Sundar Pichai)。他们认为，在公司裁员和削减成本之际，皮查伊去年还获得了超过2亿美元的股票奖励。他们同时还批评了公司授权开展700亿美元的股票回购。上周三，谷歌宣布推出名为PaLM 2的新型通用大型语言模型，并在改进搜索引擎的人工智能技术方面取得了一系列进展。随后，谷歌母公司Alphabet的股价跃升至去年8月份以来的最高水平，当周累计上涨11%。自去年年底OpenAI公开发布人工智能聊天机器人ChatGPT以来，谷歌在生成式人工智能技术方面一直承受着巨大压力。微软作为OpenAI的支持者，将基于大型语言模型GPT的新技术嵌入必应搜索引擎和其他产品中。这让人们担心，谷歌在自家核心业务搜索引擎领域占据主导地位的日子可能不多了。今年2月份，谷歌在一次活动上仓促推广人工智能聊天机器人Bard，结果公司股价下跌7%。谷歌员工回应称，皮查伊的声明“仓促”且“拙劣”。此后，谷歌一直想要迅速将人工智能领域的消费级服务推向市场。在谷歌I/O开发者大会召开之后，员工们对Bard的一些更新非常认可，比如黑暗模式，这是工程师们非常喜欢的一个选项。当谷歌宣布这项功能后，人群中曾响起了热烈掌声。其中一个表情包获得了几百个赞，上面写着“我从I/O中学到了不少东西”，“谷歌仍然能给我留下深刻印象。”“那些努力工作的人做得很好”，“作为一个一直想制作讽刺表情包的人，很高兴被惊艳到了。”在另一个表情包中，谷歌员工们赞扬了工程副总裁戴夫·伯克(Dave Burke)在Android 14发布会上的演讲，说他在台上的呈现很真实，而不是典型的宣传套话。但在谷歌I/O开发者大会两小时的主题演讲中，员工们嘲笑高管们频繁使用人工智能这个词。其中一个非常受欢迎的表情包是一个卡通人物，上面配文说“2023年度I/O开发者大会提高了谷歌股价”，紧接着是“我一直在说人工智能，它就一直在涨。”另一个梗图说，“让我们在上面再撒一些人工智能/机器学习”，并展示了一大堆粉末，上面写着“谷歌2023年度I/O开发者大会”的字样。其他员工则选择用歌曲或电影角色恶搞公司首席执行官皮查伊，称他一直在大会上反复说人工智能这个词。谷歌发言人拒绝置评。去年，Alphabet股价下跌近40%。但今年以来上涨了33%。（辰辰） ...
互联网 2023-05-15 16:30:21
