99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

閉卷開考全國一卷,AI大模型高考數學全部不及格?!

E4Life ? 來源:電子發(fā)燒友 ? 作者:周凱揚 ? 2024-06-21 00:26 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網報道(文/周凱揚)當下的大模型除了卷商業(yè)化變現(xiàn)外,又開辟出了一個新的“賽博斗蛐蛐”賽道,以各種評測標準來測試大模型在語言、數學、推理和代碼方面的綜合成績。作為國內最權威的考試之一,高考則是最能代表學生綜合能力的一次考驗,而大模型這個特殊身份的考生,如果參加高考究竟會獲得怎樣的成績,也激起了網友的好奇之心。

上海人工智能實驗室的大模型評測體系OpenCompass在近日舉辦了這么一次測試,讓6大開源模型和GPT-4o參加一次特殊的“高考”,然而這些大模型獲得的成績卻讓不少人大跌眼鏡。

閉卷開考全國一卷

在這次大模型參加高考中,OpenCompass的首輪測試采用了全國新課標I卷的語數外試卷作為題源,該卷的覆蓋省份包括江蘇、浙江、河北、福建、山東、湖北、湖南、廣東等。為了方便測試,除了省去其他非統(tǒng)一學科外,其中英語省去了30分的聽力,所以其單科總分變?yōu)榱?20分。

為了做到“閉卷”,這些受測的模型中,包括Mistral的開源對話模型Mixtral 8x22B、零一萬物的Yi-1.5-34B大模型、智譜AI的GLM-4-9B、上海人工智能實驗室推出的InternLM2-20B-WQX大語言模型以及阿里巴巴的Qwen2-57B和Qwen2-72B。

以上開源模型的開源時間均早于本屆高考,發(fā)布時間最新的是InternLM專門在高考前夕推出的文曲星系列大模型,InternLM2-WQX。即便如此,其發(fā)布于6月4日的時間也滿足了閉卷考試的前提。唯一的例外是商用閉源模型GPT-4o,但其成績也僅僅是作為評測參考。

在閱卷評分上,OpenCompass請到了多位有閱卷經驗的高中教師對主觀題答案進行評分,每份考卷都由至少3位教師評閱取平均分,甚至對分差較大的題目進行了二次審核。另外值得關注的是,為了保證閱卷老師在主客觀題上產生對大模型“先入為主”的觀念,OpenCompass在閱卷之后才告知閱卷老師答案由大模型生成,并對成績做一個整體分析。

wKgZomZ0BCWAPKHmAAOALGiaXp4470.png
AI大模型高考語數外得分 / 上海人工智能實驗室


從總分來看,阿里巴巴的通義千問大模型Qwen2-72B排名第一,其次是成績相近的GPT-4o和InternLM2-20B-WQX。然而單從數學這一門科目來看,所有的大模型都沒有及格,Mixtral 8x22B甚至只獲得了21分的成績。

語言能力依然是LLM的強項,但“應試”能力仍有提升空間

在這次“高考測試”中,不少大模型都在語文和英語上獲得了不錯的成績,尤其是在英語試卷上,GPT-4o更是在英語上獲得了111.5的高分。在語文上,還是國內的模型更具優(yōu)勢,尤其是在文言文閱讀、古詩文閱讀和名句默寫上。

有趣的一點是,在語文作文上,各大模型都沒有拉開較大差距。但據上海人工智能實驗室的觀察,大模型的作文都傾向于將“首先”“其次”和“然后”這樣表達先后順序的詞放在段首。此外,目前多數大模型都沒有對一些“應試”類題型做出優(yōu)化,比如在語文考試中,閱讀理解中的一些本體、喻體、暗喻等概念,大模型尚不能完全理解,所以在語言文字運用題型上,比如補寫句子等題目就普遍得分不高。

而在英語考試中,盡管各大模型整體表現(xiàn)良好,但部分模型并不適應完形填空、七選五這樣非傳統(tǒng)問答式的題型,會出現(xiàn)答案錯位的情況,因此得分率依然處于一個較低的水平。

在英語續(xù)寫和作文的撰寫上,大模型都存在忽略題目要求的現(xiàn)象,普遍出現(xiàn)了超出字數限制而扣分的情況,且單段文字過長。在故事續(xù)寫這樣的題型中,部分大模型也會展開不合實際的聯(lián)想,比如InternLM2-20B-WQX的作答中,就出現(xiàn)了出租車內司機撥通銀行內線電話的離譜情節(jié)。

數學不及格,主觀問答題成為最大短板

wKgaomZ0BDKAKfhmAALzT7cr6Gc900.png
AI大模型數學各題型得分 / 上海人工智能實驗室


相較語言能力測試成績,AI大模型在數學能力測試上獲得的成績就顯得不盡如人意了。最高分為InternLM2-20B-WQX取得的75分,可以說在數學這門學科上,幾乎所有的大模型都敗下陣來。全國新課標I卷的數學試卷中存在兩道帶圖題,對于不支持多模態(tài)輸入的大模型而言,只能選擇輸入題干文字從而將圖片舍棄,這也是失分嚴重的原因之一。

wKgaomZ0BD6AA07RAAHqWlB3xsA388.png
Qwen2-72B的帶圖題答案 / 上海人工智能實驗室


以上圖中的帶圖題答案為例,大模型僅僅給出了一個解題框架,并沒有給出具體數值的答案。GPT-4o和InternLM2-20B-WQX等大模型雖然給出了具體答案和解題過程,但最終得到的是一個錯誤的答案。

之所以InternLM2-20B-WQX能在數學考試上獲得相對較高的成績,也歸功于其團隊在數學大模型上的積累。今年年初InternLM發(fā)布了數學模型書生·浦語數學(InternLM2-Math)。書生·浦語數學也是首個同時支持形式化數學語言以及解題過程評價的開源模型,如此一來不僅可以用于數學計算解答,也可以用于數學基礎研究和教學。

盡管如此,在數學考試的問答主觀題上,大模型依然成績慘淡。這是因為大模型的回答多數比較凌亂,也出現(xiàn)了不少常見的錯誤解答但答案正確的現(xiàn)象。所以在77分滿分的問答題上,最高的InternLM2-20B-WQX也只僅僅得了26分。

AI大模型是不合格的考生嗎?

根據閱卷老師的點評來看,AI大模型依然還是一個比較“死板”的考生,尤其是在主觀題上。以語文的主觀題為例,很多大模型在第一步審題就失敗了,所以答非所問。在英語題目上,大模型的實力還是毋庸置疑的,但還是會在題型和作文中出現(xiàn)紕漏。

至于數學依然是所有大模型的弱項,大模型更像是記住了公式但不會運用的學生,在大部分題目上更傾向于窮舉而非推理。至于帶圖的立體幾何解答題,大模型更是缺乏空間概念,導致出現(xiàn)離譜的解答過程和答案。由此看來,大模型的“應試”能力依然有所欠缺,但在飛速迭代下,相信未來這種障礙會越來越少。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    88

    文章

    35168

    瀏覽量

    280169
  • AI大模型
    +關注

    關注

    0

    文章

    376

    瀏覽量

    619
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    太強了!AI PC搭載70B大模型,算力狂飆,內存

    電子發(fā)燒友網報道(文/黃晶晶)AI推理助推了DeepSeek體機的市場熱度,而AI PC對DeepSeek大模型的支持也將是廣大用戶采購AI
    的頭像 發(fā)表于 03-24 08:52 ?2172次閱讀
    太強了!<b class='flag-5'>AI</b> PC搭載70B大<b class='flag-5'>模型</b>,算力狂飆,內存<b class='flag-5'>開</b>掛

    湖北移動攜手華為打造AI WAN SPN智慧教育專網

    2025年全國高考正式落下帷幕,湖北移動聯(lián)合華為等合作伙伴依托AI WAN SPN(Slicing Packet Network,切片分組網)打造智慧教育專網,以“云網智能體化”為特
    的頭像 發(fā)表于 06-14 11:02 ?559次閱讀

    學校時鐘系統(tǒng),標準考場時鐘系統(tǒng),AI亮相2025高考,賽思時鐘系統(tǒng)為教育公平筑起“精準防線”

    2025年高考即將拉開帷幕,江西、湖北、廣東等全國多地啟用AI智能巡系統(tǒng)。該系統(tǒng)通過教室頂部的廣角攝像頭實時捕捉考生動態(tài),依托深度學習算法構建骨骼關節(jié)點
    的頭像 發(fā)表于 06-09 13:34 ?748次閱讀
    學校時鐘系統(tǒng),標準考場時鐘系統(tǒng),<b class='flag-5'>AI</b>亮相2025<b class='flag-5'>高考</b>,賽思時鐘系統(tǒng)為教育公平筑起“精準防線”

    廣凌標準化考場建設整體解決方案——全力維護高考安全公平考試環(huán)境

    近日,教育部發(fā)布消息,全國公安機關會同教育部門持續(xù)高壓打擊涉違法犯罪活動,已偵破批組織考試作弊和涉詐騙案件,全力保障高考安全公平環(huán)境。
    的頭像 發(fā)表于 06-06 09:58 ?324次閱讀
    廣凌標準化考場建設整體解決方案——全力維護<b class='flag-5'>高考</b>安全公平考試環(huán)境

    高考考場上,除了身份證人臉識別體機,還有哪些高科技設備?

    2024年全國高考已進入倒計時。據數據統(tǒng)計,今年高考報名人數達到1353萬,創(chuàng)下歷史新高!而本科生總招生人數預計約為450萬,可以說,2024年的高考是最具競爭力的
    的頭像 發(fā)表于 05-22 10:08 ?214次閱讀
    <b class='flag-5'>高考</b>考場上,除了身份證人臉識別<b class='flag-5'>一</b>體機,還有哪些高科技設備?

    首創(chuàng)開源架構,天璣AI開發(fā)套件讓端側AI模型接入得心應手

    基石。 Neuron Studio打造全流程站式開發(fā)體驗,為AI應用開發(fā)按下加速鍵 AI 應用的開發(fā)瓶頸,從來都不是“點的問題”,而是“鏈的問題”:開發(fā)工具碎片化,調優(yōu)過程靠手動,單模型
    發(fā)表于 04-13 19:52

    訓練好的ai模型導入cubemx不成功怎么處理?

    訓練好的ai模型導入cubemx不成功咋辦,試了好幾個模型壓縮了也不行,ram占用過大,有無解決方案?
    發(fā)表于 03-11 07:18

    模型數學能力或許直都在關鍵在于如何喚醒它

    在追求人工智能極限的道路上,"更大即更強" 似乎已成為共識。特別是在數學推理這被視為 AI 終極挑戰(zhàn)的領域,業(yè)界普遍認為需要海量數據和復雜的強化學習才能獲得突破。 然而,來自上海交通大學的最新研究
    的頭像 發(fā)表于 02-17 17:44 ?565次閱讀
    大<b class='flag-5'>模型</b>的<b class='flag-5'>數學</b>能力或許<b class='flag-5'>一</b>直都在關鍵在于如何喚醒它

    DeepSeek最新AI模型現(xiàn)已登陸IBM watsonx.ai平臺

    DeepSeek-R1 是款先進的 AI 模型,以卓越的推理能力著稱,可廣泛應用于編程、規(guī)劃和數學問題求解等領域,從而驅動智能代理應用、代碼生成,調試支持及優(yōu)化建議、解決復雜
    的頭像 發(fā)表于 02-08 09:21 ?771次閱讀

    模型進化論:AI產業(yè)落地將向何方?

    模型進化論:AI產業(yè)落地將向何方?
    的頭像 發(fā)表于 01-24 09:28 ?350次閱讀

    AN84-線性技術雜志電路集,第一卷第四集

    電子發(fā)燒友網站提供《AN84-線性技術雜志電路集,第一卷第四集.pdf》資料免費下載
    發(fā)表于 01-09 14:21 ?0次下載
    AN84-線性技術雜志電路集,第<b class='flag-5'>一卷</b>第四集

    中興通訊榮獲第七屆“綻放杯”全國一等獎

    在近期落幕的第七屆“綻放杯”5G應用征集大賽全國總決賽中,由中興通訊、常州移動與微億智造聯(lián)合打造的《打造超級虛擬工廠:5G+多維工業(yè)AI模型》項目榮獲全國一等獎。
    的頭像 發(fā)表于 01-07 17:12 ?706次閱讀

    光電效應的數學模型及解析

    光電效應是指光照射在物質上,引起電子從物質表面逸出的現(xiàn)象。以下是光電效應的數學模型及詳細解析: 、光電效應的基本數學模型 光子能量公式 : 表達式:E = hν 含義:E代表光子的能量,h是普朗克
    的頭像 發(fā)表于 11-25 13:46 ?4895次閱讀

    Kimi發(fā)布新一代數學推理模型k0-math

    近日,Kimi正式推出了其新一代數學推理模型k0-math。據基準測試顯示,該模型數學能力可與全球領先的OpenAI o1系列中的o1-mini和o1-preview
    的頭像 發(fā)表于 11-18 11:38 ?974次閱讀

    1977年恢復高考,父親的高光時刻

    父親做了輩子的鄉(xiāng)村教師,他的高光時刻是在游港公社中學(及下面的陶家湖初中)教初高中數學13年多。1977年剛恢復高考的最初幾年,有學生考取了清華、北大、交大、復旦、同濟、天大、廣州軍醫(yī)、中大、華工
    的頭像 發(fā)表于 10-21 14:17 ?1482次閱讀