亚洲国产婷婷_手机在线观看国产精品_日本一区二区三区在线视频_亚洲精品成人久久

首頁 > 汽車頻道 > 汽車頻道 > 高文院士談AI:規(guī)模即所需,三“大”缺一不可

高文院士談AI:規(guī)模即所需,三“大”缺一不可

發(fā)布時間:2024-05-26 15:40:17

規(guī)模是做好生成式人工智能的撒手锏,大數(shù)據(jù)、大模型和大算力對于生成式人工智能缺一不可。”在近日舉行的第七屆數(shù)字中國峰會之中國移動人工智能生態(tài)大會上,中國工程院院士、鵬城實驗室主任、北京大學(xué)博雅講習(xí)教授高文表示。高文院士回顧了人工智能發(fā)展的三次浪潮,并對影響當(dāng)下生成式人工智能發(fā)展的關(guān)鍵因素進行了分析。

歷經(jīng)三次浪潮

1956年夏天,美國達特茅斯學(xué)院舉行了一場研討會,在會上麥卡錫首提“人工智能”,標志著人工智能元年的到來。追憶歷史,高文表示,從1956年開始人工智能經(jīng)歷了三次浪潮:以推理研究為主的第一次浪潮,持續(xù)20年左右時間;以專家系統(tǒng)為主的第二次浪潮,持續(xù)30年左右時間;以及從2006年開始的第三次浪潮。其中第三次浪潮又包括兩大技術(shù)進展:從2009年開始的判別式人工智能,從2018年開始的生成式人工智能。

2009年,華裔科學(xué)家李飛飛和李凱教授提出imageNet(圖像網(wǎng)絡(luò)),一石激起千層浪,業(yè)界八仙過海各顯神通,紛紛基于imageNet提出各自的判別式人工智能算法,直到2012年深度神經(jīng)元網(wǎng)絡(luò)出現(xiàn),以絕對優(yōu)勢令其他算法黯然失色,將百花齊放的格局進行收斂。2015年微軟研究院何凱明、孫劍等聯(lián)合提出ResNet(殘差網(wǎng)絡(luò)),又將判別式人工智能帶到了新高度。此后,從深度神經(jīng)網(wǎng)絡(luò)DNN到卷積神經(jīng)網(wǎng)絡(luò)CNN再到循環(huán)神經(jīng)網(wǎng)絡(luò)RNN,深度網(wǎng)絡(luò)快速迭代,不斷走向新的技術(shù)高度。

“判別式人工智能以模式識別見長,如圖像分類、人臉識別、智能監(jiān)測等,如今廣泛應(yīng)用的人臉識別正是判別式人工智能的應(yīng)用。判別式人工智能與人的對象認知學(xué)習(xí)接近,可以根據(jù)學(xué)習(xí)速度、記憶規(guī)模、判別準確度判斷其結(jié)果好壞。”高文分析。

大語言模型破解長語言序列難題

不過,判別式人工智能通過在神經(jīng)網(wǎng)絡(luò)中輸入大量數(shù)據(jù)進行快速判別,擅長圖像和矩陣識別,對于長語言序列則力不從心。在這樣的形勢下,大語言模型應(yīng)運而生,致力于解決長語言序列問題,而生成式人工智能則是大語言模型的最主要突破。

高文表示,自2018年開始生成式人工智能快速迭代,從大語言模型LLM到ChatGPT再到Sora多模態(tài),萬變不離其宗的是底層關(guān)鍵技術(shù)GPT(生成式預(yù)訓(xùn)練模型)。GPT引入注意力機制,使得一個長串中無論相隔多遠的兩個相關(guān)數(shù)據(jù)都能連接在一起,并訓(xùn)練出關(guān)聯(lián)度。“GPT的核心算法是用大量序列做大模型預(yù)訓(xùn)練,關(guān)鍵是注意力機制。由于GPT算法對業(yè)界并無差別,因此具體應(yīng)用效果取決于學(xué)習(xí)速度、記憶規(guī)模、表達準確度等。”高文認為。

雖然如今ChatGPT如火如荼,但是GPT起初并沒有激起太多漣漪。這是因為GPT使用起來問題較多:給出的答案要么過于簡單,要么過于復(fù)雜,要么不合規(guī),存在意識形態(tài)、文化習(xí)慣、行業(yè)差別等方面的問題。

ChatGPT的出現(xiàn)改變了這一現(xiàn)象,使得業(yè)界對于人工智能的印象和投入力度大為改觀。不過從底層技術(shù)看,從GPT到ChatGPT并沒有改變,其不同在于:一是ChatGPT增加了InstructionGPT指令,通過微調(diào)、對齊和抑制,使得回答更加“人模人樣”;二是引入基于人類反饋的增強學(xué)習(xí)RLHF,解決合規(guī)問題和垂應(yīng)用適配等。

大數(shù)據(jù)、大模型和大算力缺一不可

在中國移動人工智能生態(tài)大會上,中國移動發(fā)布了“萬千百”智能基座,其中,“萬”指“萬”卡互聯(lián)并行加速算力供給,中國移動年內(nèi)將投產(chǎn)3個近兩萬卡超大規(guī)模單體智算中心和12個區(qū)域智算中心,廣泛升級1500個邊緣節(jié)點,為全社會提供澎湃算力。

中國移動在智算中心方面的規(guī)模投入并非個例,隨著生成式人工智能的發(fā)展,全國各地多個智算中心如雨后春筍不斷出現(xiàn),而這背后的原因是人工智能的發(fā)展需要算力支撐。

“生成式人工智能做得好不好,規(guī)模是決性定因素。”高文一語道出其中關(guān)鍵。

高文表示,GPT和Sora等人工智能生成技術(shù)并沒有提出理論革新,與20年前的人工智能神經(jīng)網(wǎng)絡(luò)理論本質(zhì)上并無差異。生成式人工智能的突破得益于大數(shù)據(jù)、大模型和大算力,這三個“大”缺一不可。特別是算力,如今千卡是入門級規(guī)模,要想做大模型必須有萬卡級。

對于規(guī)模,OpenAI等公司也有深刻見解:如果能用規(guī)模解決問題,就無需動用新的算法。不僅如此,OpenAI還提出了“假設(shè)性三公理”,已被AI領(lǐng)域奉為圭臬。

第一條公理,苦澀的教訓(xùn)。多年來人工智能的研究者們一直試著將人類已知的知識構(gòu)建到他們的智能體中,但是屢戰(zhàn)屢敗。成功的極少數(shù)案例都是使用規(guī)模計算,通過搜索和機器學(xué)習(xí)完成的。大規(guī)模、大算力和大數(shù)據(jù)是通用人工智能的必要條件。

第二條公理,規(guī)模即所需。一旦選擇了良好且通用的數(shù)據(jù)標注、算法,就能夠找到一套通用的規(guī)律,數(shù)據(jù)越多,模型越大,效果就越好,而且這個規(guī)律在訓(xùn)練之前就可以預(yù)知效果。大規(guī)模是通用人工智能AGI的充分條件,大就是好。

第三條公理,涌現(xiàn)需規(guī)模。隨著規(guī)模的擴大、數(shù)據(jù)的增加,大模型一定會涌現(xiàn)出前所未有的能力,這個能力可以被所有人看到。

最后,高文總結(jié)表示,判別式人工智能方興未艾,生成式人工智能如火如荼,關(guān)于下一波浪潮業(yè)界也有很多預(yù)測,如無人駕駛、具身智能、人形機器等,但總體而言仍不得而知。未來充滿想象,值得我們期待,也需要業(yè)界有所作為。高文特別提到,中國的人工智能需要自己的大模型底座,只有這樣才能實現(xiàn)以中文語料和中國歷史為基礎(chǔ)的文明傳承。

汽車頻道更多>>

許福生先生榮獲「墨緣堂全國藝術(shù)大賽」攝影特等獎 琴聲與竹影互動 靜態(tài)景觀升華為動態(tài)的生命體驗 茶室客廳字畫傅繼英書法“年年有余”滿是吉祥與期盼 2025年宜昌市“招才興業(yè)”教育系統(tǒng)事業(yè)單位人才引進校園招聘公告•湖南師范大學(xué)站(36人) 2024年四川省生態(tài)環(huán)境監(jiān)測總站招聘勞務(wù)人員公告 2024年慶陽市交通運輸局所屬事業(yè)單位選調(diào)工作人員公告 2024年江西省發(fā)展改革委委屬事業(yè)單位招聘工作人員公告 純電K-CAR要來了,五菱打造,堪稱MINI EV放大版 起亞EV4內(nèi)飾諜照曝光,配一體式雙聯(lián)屏+雙輻式方向盤 海豚最強對手來襲,后驅(qū)+寧德時代電池,頂配不到10萬 特斯拉Model Y最新諜照來了,牌照框有變化,續(xù)航或超800km 上汽奧迪A5L要來了,諜照已曝光,配華為智駕,最早25年初上市 全新大眾途昂PRO內(nèi)飾諜照曝光,屏幕更大,還配副駕娛樂屏 定位中大型MPV的廣汽豐田賽那,搭載2.5L油電混動,實力表現(xiàn)如何 6.99萬元起,搭載1.4T+7DCT的長安逸動PLUS高能版實力表現(xiàn)如何? 想要購入一臺紅旗HS5,先來看一看其首年用車成本表現(xiàn)如何 零跑C01:15萬多的中大型車,配三聯(lián)屏+增程動力,其實力表現(xiàn)如何 月銷量破3萬臺,零跑汽車再“突破”,零跑C16的這五點表現(xiàn)亮眼? 拒絕插混技術(shù)「宣傳霸凌」,英仕派PHEV和漢DM-i用長途實測比高低 沒買車可以看看,寶駿云海榮獲2項國字號認證,安全、泊車兩手抓 寶駿云海上市,售價10.98萬起,全面性的表現(xiàn)讓同級對手怎么比? 2025 款福特 Bronco Stroppe 版靈感源自傳奇的 Baja Racer 比亞迪的薄利多銷魔法,卷出新高度,贏在未來 日產(chǎn)發(fā)布全新第四代Murano(樓蘭),將拋棄CVT 豐田汽車與波士頓動力合作 推進AI人形機器人技術(shù) 豐田研究所與波士頓動力合作,推進機器人大規(guī)模行為模型等研究 全面升級 吉利中國星東方曜雙子新車解讀 一汽奧迪以專家造車,打造全周期高品質(zhì)用車體驗 谷歌安卓15引入“空間大師”功能,128GB存儲也能擁抱海量應(yīng)用 華碩筆記本電腦質(zhì)量怎么樣?四款華碩筆記本推薦,真香選擇
主站蜘蛛池模板: 喜德县| 伽师县| 江陵县| 元谋县| 巴塘县| 耿马| 吴忠市| 含山县| 清河县| 屏东市| 丘北县| 察雅县| 密山市| 阿拉善左旗| 九台市| 明星| 蓬溪县| 齐齐哈尔市| 西和县| 平昌县| 新闻| 苏尼特右旗| 崇义县| 田林县| 城市| 金川县| 台湾省| 盘锦市| 云和县| 江都市| 宜州市| 阿拉善左旗| 牙克石市| 浠水县| 栾川县| 准格尔旗| 庐江县| 定州市| 西乌珠穆沁旗| 佛教| 胶南市|