專訪中國電信上海公司陳霄航：擁抱AI發(fā)展，防范安全挑戰(zhàn)
摘要： 生成式AI大模型的發(fā)展為企業(yè)帶來了前所未有的機(jī)遇和挑戰(zhàn)
隨著2023年ChatGPT的發(fā)布，當(dāng)今AI大模型已成為技術(shù)發(fā)展的核心動(dòng)力，廣泛應(yīng)用于語言翻譯、內(nèi)容生成、數(shù)據(jù)分析等領(lǐng)域，極大提升了工作效率和創(chuàng)新速度。這些模型不僅改變了新聞、媒體、教育等傳統(tǒng)行業(yè)，還推動(dòng)了智能制造、自動(dòng)駕駛等高新技術(shù)領(lǐng)域的發(fā)展，促進(jìn)了新興產(chǎn)業(yè)和經(jīng)濟(jì)的快速增長。但同時(shí)，AI的發(fā)展也帶來了數(shù)據(jù)隱私泄露、算法偏見等風(fēng)險(xiǎn)，對(duì)就業(yè)市場產(chǎn)生了重構(gòu)作用。生成式AI的發(fā)展以及其帶來的安全風(fēng)險(xiǎn)也成為了行業(yè)關(guān)注的熱點(diǎn)。
日前，我們采訪了中國電信股份有限公司上海分公司信息網(wǎng)絡(luò)部副總經(jīng)理陳霄航，就如今AI大模型的發(fā)展及其帶來的安全問題展開討論。
陳霄航：
AI大模型對(duì)我們來說是機(jī)遇與挑戰(zhàn)并存，其在自然語言處理、圖像識(shí)別和決策支持等方面展現(xiàn)出卓越的能力，可以顯著提升企業(yè)的運(yùn)營效率和創(chuàng)新能力。金融機(jī)構(gòu)可以利用AI進(jìn)行風(fēng)險(xiǎn)評(píng)估和反欺詐檢測，電商平臺(tái)可以通過AI推薦系統(tǒng)提高用戶轉(zhuǎn)化率。但這些技術(shù)的廣泛應(yīng)用也帶來了新的安全挑戰(zhàn)。諸如數(shù)據(jù)隱私問題、模型的安全性、模型的透明性與可解釋性都是企業(yè)需要關(guān)注并制定對(duì)應(yīng)策略的問題。
面對(duì)AI大模型的快速發(fā)展，企業(yè)需要在戰(zhàn)略、技術(shù)和運(yùn)營多個(gè)層面采取措施，既要抓住技術(shù)帶來的機(jī)遇，也要嚴(yán)防潛在的安全問題。通過健全的數(shù)據(jù)管理、強(qiáng)化的安全測試和審計(jì)，企業(yè)可以在擁抱AI技術(shù)的同時(shí)，有效防范和應(yīng)對(duì)安全挑戰(zhàn)。
自ChatGPT發(fā)布以來，國內(nèi)廠商外紛紛發(fā)布了自己的大模型，出現(xiàn)百家爭鳴的局面，您認(rèn)為未來的發(fā)展趨勢將是如何？
陳霄航：
AI大模型是時(shí)代的機(jī)遇，國內(nèi)外的大廠自然都不會(huì)放過這個(gè)機(jī)會(huì)，國外OpenAI的GPT-4o、Google的Gemini、微軟的Copilot，國內(nèi)百度的文心一言、訊飛的星火大模型、字節(jié)的豆包、騰訊的混元、阿里的通義千問包括我們電信的星辰，各家紛紛都參與大模型研發(fā)的隊(duì)伍中。競爭是十分激烈的，這種競爭推動(dòng)了技術(shù)的快速進(jìn)步，同時(shí)也促使各廠商不斷優(yōu)化產(chǎn)品，探索新的可能性，以滿足市場需求。
人們普遍對(duì)未來通用AI大模型的期待就是能夠更快處理和生成更多種類型的數(shù)據(jù)，響應(yīng)各類問題，成為更為全面和智能的人工智能。但實(shí)際上大模型與其說是一個(gè)產(chǎn)品，不如說他是一種能力，他能夠做很多事情有無限可能，但使用過程中我們也能發(fā)現(xiàn)，在很多問題上我們并不能馬上得到我們想要的答案，而需要一步步引導(dǎo)、一步步補(bǔ)充，才能慢慢接近我們最終需要的結(jié)果。所以目前市面上已經(jīng)開始出現(xiàn)一些更針對(duì)具體場景的應(yīng)用大模型，例如專攻AI繪畫的Midjourney，專攻生成視頻的sora等等，他們能更好的去響應(yīng)場景化需求，針對(duì)性回答場景內(nèi)的問題。就像百度CEO李彥宏在WAIC中所呼吁的“大家不要卷模型，要卷應(yīng)用！”未來，定制化與個(gè)性化的場景應(yīng)用大模型將成為百家爭艷的關(guān)鍵。
同時(shí)AI大模型的應(yīng)用要更加注重產(chǎn)業(yè)生態(tài)的構(gòu)建和跨界合作。通過與不同行業(yè)的企業(yè)合作，AI技術(shù)將深入各個(gè)垂直領(lǐng)域，帶來更多創(chuàng)新應(yīng)用。屆時(shí)，AI行業(yè)的發(fā)展將從百家爭鳴邁向百花齊放。
生成式AI大模型的發(fā)展為企業(yè)帶來了前所未有的機(jī)遇和挑戰(zhàn)。企業(yè)應(yīng)積極擁抱這一技術(shù)，通過定制化場景、跨界合作等策略，充分發(fā)揮AI的潛力，提升企業(yè)的競爭力和創(chuàng)新能力。在這一過程中，保持對(duì)技術(shù)前沿的敏感性，靈活應(yīng)對(duì)市場變化，將是企業(yè)成功的關(guān)鍵。
日前，我們采訪了中國電信股份有限公司上海分公司信息網(wǎng)絡(luò)部副總經(jīng)理陳霄航，就如今AI大模型的發(fā)展及其帶來的安全問題展開討論。
AI大模型發(fā)展迅猛，企業(yè)在順應(yīng)浪潮的過程中會(huì)不會(huì)引出更多的安全問題？
陳霄航：
AI大模型對(duì)我們來說是機(jī)遇與挑戰(zhàn)并存，其在自然語言處理、圖像識(shí)別和決策支持等方面展現(xiàn)出卓越的能力，可以顯著提升企業(yè)的運(yùn)營效率和創(chuàng)新能力。金融機(jī)構(gòu)可以利用AI進(jìn)行風(fēng)險(xiǎn)評(píng)估和反欺詐檢測，電商平臺(tái)可以通過AI推薦系統(tǒng)提高用戶轉(zhuǎn)化率。但這些技術(shù)的廣泛應(yīng)用也帶來了新的安全挑戰(zhàn)。諸如數(shù)據(jù)隱私問題、模型的安全性、模型的透明性與可解釋性都是企業(yè)需要關(guān)注并制定對(duì)應(yīng)策略的問題。
- 數(shù)據(jù)隱私問題
- 模型安全性問題
- 透明性與可解釋性
面對(duì)AI大模型的快速發(fā)展，企業(yè)需要在戰(zhàn)略、技術(shù)和運(yùn)營多個(gè)層面采取措施，既要抓住技術(shù)帶來的機(jī)遇，也要嚴(yán)防潛在的安全問題。通過健全的數(shù)據(jù)管理、強(qiáng)化的安全測試和審計(jì)，企業(yè)可以在擁抱AI技術(shù)的同時(shí)，有效防范和應(yīng)對(duì)安全挑戰(zhàn)。
自ChatGPT發(fā)布以來，國內(nèi)廠商外紛紛發(fā)布了自己的大模型，出現(xiàn)百家爭鳴的局面，您認(rèn)為未來的發(fā)展趨勢將是如何？
陳霄航：
AI大模型是時(shí)代的機(jī)遇，國內(nèi)外的大廠自然都不會(huì)放過這個(gè)機(jī)會(huì)，國外OpenAI的GPT-4o、Google的Gemini、微軟的Copilot，國內(nèi)百度的文心一言、訊飛的星火大模型、字節(jié)的豆包、騰訊的混元、阿里的通義千問包括我們電信的星辰，各家紛紛都參與大模型研發(fā)的隊(duì)伍中。競爭是十分激烈的，這種競爭推動(dòng)了技術(shù)的快速進(jìn)步，同時(shí)也促使各廠商不斷優(yōu)化產(chǎn)品，探索新的可能性，以滿足市場需求。
人們普遍對(duì)未來通用AI大模型的期待就是能夠更快處理和生成更多種類型的數(shù)據(jù)，響應(yīng)各類問題，成為更為全面和智能的人工智能。但實(shí)際上大模型與其說是一個(gè)產(chǎn)品，不如說他是一種能力，他能夠做很多事情有無限可能，但使用過程中我們也能發(fā)現(xiàn)，在很多問題上我們并不能馬上得到我們想要的答案，而需要一步步引導(dǎo)、一步步補(bǔ)充，才能慢慢接近我們最終需要的結(jié)果。所以目前市面上已經(jīng)開始出現(xiàn)一些更針對(duì)具體場景的應(yīng)用大模型，例如專攻AI繪畫的Midjourney，專攻生成視頻的sora等等，他們能更好的去響應(yīng)場景化需求，針對(duì)性回答場景內(nèi)的問題。就像百度CEO李彥宏在WAIC中所呼吁的“大家不要卷模型，要卷應(yīng)用！”未來，定制化與個(gè)性化的場景應(yīng)用大模型將成為百家爭艷的關(guān)鍵。
同時(shí)AI大模型的應(yīng)用要更加注重產(chǎn)業(yè)生態(tài)的構(gòu)建和跨界合作。通過與不同行業(yè)的企業(yè)合作，AI技術(shù)將深入各個(gè)垂直領(lǐng)域，帶來更多創(chuàng)新應(yīng)用。屆時(shí)，AI行業(yè)的發(fā)展將從百家爭鳴邁向百花齊放。
生成式AI大模型的發(fā)展為企業(yè)帶來了前所未有的機(jī)遇和挑戰(zhàn)。企業(yè)應(yīng)積極擁抱這一技術(shù)，通過定制化場景、跨界合作等策略，充分發(fā)揮AI的潛力，提升企業(yè)的競爭力和創(chuàng)新能力。在這一過程中，保持對(duì)技術(shù)前沿的敏感性，靈活應(yīng)對(duì)市場變化，將是企業(yè)成功的關(guān)鍵。
詳情請關(guān)注安在新媒體，一家信息安全領(lǐng)域媒體，以“做有內(nèi)涵的泛黑客媒體”為方向，線上通過自媒體，采訪網(wǎng)絡(luò)安全領(lǐng)域人物梳理行業(yè)脈絡(luò)，通過介紹他們的經(jīng)歷、感悟、對(duì)行業(yè)的看法等來剖析網(wǎng)絡(luò)安全發(fā)展的脈絡(luò)；致力于建立完整的信息發(fā)布矩陣，覆蓋微信、微博、知乎等主流自媒體渠道。
官網(wǎng)：http://anzerclub.com/
市場部聯(lián)系（廠商）：徐倩（微信：Madeline_Sue）
市場部聯(lián)系（甲方）：Tina（微信：xuqingqing823125689 ）及 Enco（微信：Anzer10）