·美國總統(tǒng)科技顧問委員會成立的生成式AI工作組旨在幫助評估人工智能領(lǐng)域的關(guān)鍵機遇和風(fēng)險，并就盡可能確保公平、安全、負(fù)責(zé)地開發(fā)和部署這些技術(shù)向美國總統(tǒng)提供意見。

【資料圖】

·AMD的首席執(zhí)行官蘇姿豐（Lisa Su）和谷歌云首席信息安全官菲爾·維納布爾斯（Phil Venables）也是這個工作組的成員。

華裔數(shù)學(xué)家、菲爾茨獎獲得者陶哲軒。

當(dāng)?shù)貢r間5月13日，華裔數(shù)學(xué)家、菲爾茨獎獲得者陶哲軒公布消息，他和物理學(xué)家勞拉·格林（Laura Greene）共同領(lǐng)導(dǎo)美國總統(tǒng)科技顧問委員會（PCAST）的生成式人工智能工作組。該小組將于當(dāng)?shù)貢r間5月19日在PCAST會議期間舉行公開會議，AlphaGo之父、DeepMind創(chuàng)始人德米斯·哈薩比斯（Demis Hassabis）及斯坦福大學(xué)教授李飛飛等將在會上演講。

美國總統(tǒng)科技顧問委員會（PCAST）生成式人工智能工作組將于當(dāng)?shù)貢r間5月19日舉行公開會議。

華裔數(shù)學(xué)家、菲爾茨獎獲得者陶哲軒在自己的博客公布消息。

據(jù)陶哲軒在博客中透露，生成式人工智能工作組主要研究生成式人工智能技術(shù)在科學(xué)及社會領(lǐng)域的影響，包括ChatGPT等基于文本的大型語言模型，DALL-E 2、Midjourney等圖像生成器，以及蛋白質(zhì)設(shè)計或天氣預(yù)報等科學(xué)應(yīng)用模型。值得一提的是，AMD的首席執(zhí)行官蘇姿豐（Lisa Su）和谷歌云首席信息安全官菲爾·維納布爾斯（Phil Venables）也是這個工作組的成員。

美國總統(tǒng)科技顧問委員會（PCAST）生成式人工智能工作組成員。

據(jù)美國白宮在官網(wǎng)發(fā)布的文章介紹，PCAST成立的生成式人工智能工作組旨在幫助評估人工智能領(lǐng)域的關(guān)鍵機遇和風(fēng)險，并就盡可能確保公平、安全、負(fù)責(zé)地開發(fā)和部署這些技術(shù)向美國總統(tǒng)提供意見。

文章中將生成式人工智能定義為，在對大型數(shù)據(jù)集進(jìn)行訓(xùn)練后，可用于根據(jù)給定提示生成文本、圖像、視頻或其他輸出的一類AI系統(tǒng)。這些技術(shù)發(fā)展迅速，有可能徹底改變現(xiàn)代生活的許多方面。在科學(xué)領(lǐng)域，這些工具被用于設(shè)計新藥、蛋白質(zhì)或材料，并有望加快科學(xué)發(fā)現(xiàn)的步伐。在醫(yī)學(xué)領(lǐng)域，生成式人工智能有可能為醫(yī)療保健專業(yè)人員提供建議。在工作場所，這些工具可以加快計算機代碼的編寫速度，幫助撰寫演示文稿和進(jìn)行總結(jié)。

但同時，文章指出，生成式人工智能模型也可被用于惡意目的，如制造虛假信息、推送錯誤信息和冒充個人。如果在沒有保障的情況下使用，生成式人工智能可能會引發(fā)社會分化，加劇社會中的偏見和不平等，更普遍的是，通過讓公民難以理解世界上發(fā)生的事情來威脅民主。此外，生成式人工智能系統(tǒng)可能會侵犯隱私并破壞知識產(chǎn)權(quán)。

PCAST??生成式人工智能工作組通過確定額外的需求和機會，并就如何最好地解決這些問題向總統(tǒng)提出建議。

在19日舉行的會議中，生成式人工智能工作組的兩個專家小組將介紹當(dāng)下該領(lǐng)域的情況，發(fā)言者包括：

人工智能賦能科學(xué)（AI Enabling Science）:

Anima Anandkumar （英偉達(dá)機器學(xué)習(xí)研究總監(jiān)、加州理工學(xué)院計算機與數(shù)學(xué)科學(xué)教授）

Demis Hassabis（DeepMind創(chuàng)始人）

李飛飛（斯坦福大學(xué)計算機科學(xué)教授）

人工智能的社會影響（Al Impacts on Society）:

Sendhil Mullainathan（芝加哥大學(xué)布斯商學(xué)院計算與行為科學(xué)教授）

Daron Acemoglu（麻省理工學(xué)院經(jīng)濟(jì)學(xué)教授）

Sarah Kreps（康奈爾大學(xué)政府學(xué)教授）

陶哲軒表示，工作組正在就如何識別和促進(jìn)生成式人工智能的有益部署以及如何最好地降低風(fēng)險征求公眾意見。“我們最初的重點是如何檢測、抵制和減輕人工智能生成的虛假信息和深度造假這一具有挑戰(zhàn)性的話題，同時又不犧牲健康民主運作所需的言論自由和與民選官員的公眾參與；未來我們還可能會圍繞生成人工智能的其他方面發(fā)出進(jìn)一步的請求。”

在ChatGPT出現(xiàn)后，像陶哲軒這樣的頂尖數(shù)學(xué)家也對其極為關(guān)注，開始探索人工智能如何幫助他們完成工作。在《自然》雜志的一篇《AI如何改變數(shù)學(xué)？聊天機器人的興起突出了對話的重要性》中，加拿大蒙特利爾大學(xué)的數(shù)論學(xué)家安德魯·格蘭維爾（Andrew Granville）也表示，“我們正在研究一個非常具體的問題：機器會改變數(shù)學(xué)嗎？”數(shù)學(xué)家凱文·巴扎德（Kevin Buzzard）表示同意，“事實上，現(xiàn)在像菲爾茲獎得主和其他非常著名的大數(shù)學(xué)家都對這個領(lǐng)域感興趣，這表明它以一種前所未有的方式變得‘熱門’。”

此前，陶哲軒在去中心化社交網(wǎng)絡(luò)Mastodon上寫道，“我可以明確地說，今天是GPT-4為我節(jié)省了大量繁瑣工作的第一天。”在嘗試中，陶哲軒發(fā)現(xiàn)了ChatGPT的很多隱藏功能，如搜索公式、解析帶代碼格式的文檔、改寫學(xué)術(shù)論文中的句子等，有時ChatGPT還可以對未完成的數(shù)學(xué)問題進(jìn)行語義搜索以生成一些提示。

他還對比了自己和當(dāng)前生成式人工智能工具之間的比較優(yōu)勢：

對于每天執(zhí)行的任務(wù)，我已經(jīng)開發(fā)了足夠的技術(shù)來優(yōu)化我的工作流程，人工智能工具對我來說并沒有太多的增值價值。最明顯的是在研究數(shù)學(xué)方面，但也包括撰寫電子郵件。我安裝了一個插件，讓GPT-4在我點擊按鈕時寫電子郵件回復(fù)，但我?guī)缀鯊奈词褂盟驗榻?jīng)過幾十年的實踐，我已經(jīng)可以快速寫出合適的電子郵件回復(fù)。

對于那些我有一些專業(yè)知識但很少實踐的任務(wù)，人工智能工具是有幫助的：通常我可以用它們來創(chuàng)建輸出的初稿，然后我可以驗證和修改，或至少作為靈感來源使用。（在某些情況下，靈感是來源于AI的不足，這符合坎寧安法則的精神，但它仍然比我自己嘗試解決問題更有成效。）這一類的例子包括數(shù)據(jù)處理、翻譯，或以我很少使用的格式寫文本（如公開演講、規(guī)則文件等）。

對于那些我沒有什么專業(yè)知識也不需要極高質(zhì)量和可靠性的任務(wù)，可以簡單地詢問人工智能工具，并或多或少地聽從其建議。在這里，人工智能的功能是作為傳統(tǒng)搜索引擎的一個稍微方便些的版本。

最后，對于那些我不具備專業(yè)知識但又需要質(zhì)量和可靠性的任務(wù)，人工智能和我自己都無法解決，我必須咨詢?nèi)祟悓＜遥缧蘩硪粋€復(fù)雜、昂貴、精致的設(shè)備。

一個有趣的嘗試是，陶哲軒要求ChatGPT從描述中識別“庫默爾定理”（用于描述在約束條件下如何找到最優(yōu)解），雖然ChatGPT不能給出正確答案，但其還是能根據(jù)勒讓德公式（Legendre"s formula）給出一個大概的答案。對于ChatGPT的表現(xiàn)，陶哲軒表示，人工智能在數(shù)學(xué)中發(fā)揮了作用，提供了一個初步的近似答案，再與傳統(tǒng)搜索引擎相結(jié)合就可以輕松找到正確答案。

關(guān)鍵詞：