吉林大學(xué)校長、中國科學(xué)院院士、期刊主編張希教授曾為中國化學(xué)會刊物CCS Chemistry 2024年第9期撰寫了一篇關(guān)于人工智能（AI）在科學(xué)研究中應(yīng)用的社論，現(xiàn)節(jié)選相關(guān)部分，希望與青年教師和學(xué)生分享，供大家學(xué)習(xí)和交流。

原文（節(jié)選）如下：

“ 面對人工智能，我們必須秉持批判性態(tài)度。深入思考其輸出內(nèi)容的內(nèi)涵，探究分析所基于的數(shù)據(jù)集，以及評估輸出結(jié)果的質(zhì)量?！?2016年諾貝爾化學(xué)獎得主Ben L. Feringa 的這番話，如警鐘長鳴，時刻提醒著我們在科技浪潮中保持理性。

在當(dāng)今時代，生成式人工智能（AI）和大語言模型（LLM）已如潮水般涌入我們生活的每一個角落。從日常接觸的圖像生成、醫(yī)療診斷輔助，到天氣預(yù)報的精準預(yù)測；從職場中的績效評估，到交通出行的智能調(diào)度，乃至處于前沿的科學(xué)研究領(lǐng)域，人工智能的身影無處不在，展現(xiàn)出無可比擬的巨大影響力。

以化學(xué)領(lǐng)域為例，人工智能的介入帶來了變革。在有機合成中，它能夠快速且精準地優(yōu)化合成路線，大大提高了實驗效率；計算化學(xué)里，借助人工智能強大的運算能力，計算變得更加迅速、結(jié)果也更加精確；材料科學(xué)方面，人工智能可以從海量數(shù)據(jù)中篩選并生成潛在的候選材料；催化領(lǐng)域，它為先進催化劑的合理制備提供了全新的思路和方法。然而，盡管部分研究人員已經(jīng)將人工智能融入日常工作，但仍有許多人在摸索如何更高效、更有建設(shè)性地運用這一技術(shù)，使其更好地服務(wù)于科研和學(xué)術(shù)交流。

大語言模型作為人工智能的重要分支，屬于典型的 “黑箱” 系統(tǒng)。它通過對海量語音和文本數(shù)據(jù)的深度學(xué)習(xí)，實現(xiàn)對語言的理解與處理。經(jīng)過復(fù)雜的數(shù)據(jù)處理、組織、重構(gòu)和分析流程，大語言模型能夠生成新的文本內(nèi)容。但不容忽視的是，像ChatGPT（OpenAI開發(fā)）、文心一言（百度開發(fā)）這類廣為人知的大語言模型，其輸出質(zhì)量在很大程度上受制于訓(xùn)練數(shù)據(jù)的類型、質(zhì)量和覆蓋范圍。這就導(dǎo)致在實際應(yīng)用中，尤其是涉及科學(xué)領(lǐng)域時，模型的分析結(jié)果往往受到訓(xùn)練過程中語言和邏輯輸入的局限。在日常通信場景下，大語言模型或許能憑借豐富的數(shù)據(jù)儲備給出較為合理的回應(yīng)，但一旦面對科學(xué)研究中那些復(fù)雜、微妙的概念、成果解讀，其數(shù)據(jù)的局限性便會暴露無遺，不僅相關(guān)信息匱乏，甚至可能因關(guān)鍵信息缺失而產(chǎn)生誤導(dǎo)性結(jié)論和錯誤輸出。正如ChatGPT自己所承認的：“人工智能系統(tǒng)的性能優(yōu)劣，完全取決于其訓(xùn)練數(shù)據(jù)的質(zhì)量?！?/p>

基于上述情況，雖然人工智能和大語言模型在日常生活和諸多領(lǐng)域展現(xiàn)出巨大的應(yīng)用潛力，但在科學(xué)手稿的全面評審工作中，依賴它們是極不明智的選擇。作為編輯，我們在工作中曾收到過內(nèi)容空洞、缺乏深度的手稿評審意見，種種跡象表明，這些意見很可能是由大語言模型生成的。在此，我們鄭重呼吁廣大讀者和科研工作者，當(dāng)受邀參與并同意對手稿進行同行評審時，務(wù)必堅守專業(yè)底線，切勿依賴大語言模型完成評審工作。

事實上，包括中國化學(xué)會（CCS）在內(nèi)的眾多學(xué)術(shù)出版機構(gòu)，都明確禁止使用人工智能進行手稿評審。其中最關(guān)鍵的原因在于，將未發(fā)表的手稿內(nèi)容上傳至大語言模型，嚴重違反了學(xué)術(shù)保密原則。一旦手稿信息被上傳，大語言模型便有可能將這些尚未公開的內(nèi)容泄露給公眾。這意味著原本應(yīng)由評審人嚴格保密的手稿內(nèi)容，被第三方獲取，從而極大地損害了手稿作者的權(quán)益，破壞了學(xué)術(shù)研究的嚴謹性和保密性。單從這一原則層面來看，利用大語言模型撰寫評審意見無疑是對學(xué)術(shù)規(guī)范的公然踐踏。

即便上述理由還不足以讓您對使用大語言模型加速手稿（或提案）評審的行為保持高度警惕，那么大語言模型自身存在的局限性也應(yīng)當(dāng)引起您的足夠重視。ChatGPT曾明確指出：“雖然人工智能在處理和分析大量數(shù)據(jù)方面具有顯著優(yōu)勢，但在科學(xué)研究論文的評審工作中完全依賴它，會帶來一系列風(fēng)險。人工智能缺乏人類評審員所具備的對科學(xué)背景、研究方法以及創(chuàng)新理念的深刻理解和敏銳洞察力，難以準確評估研究的原創(chuàng)性和理論貢獻，常常會忽略那些對論文質(zhì)量和學(xué)術(shù)價值起著關(guān)鍵作用的微妙之處。此外，人工智能系統(tǒng)受限于訓(xùn)練數(shù)據(jù)的范圍和質(zhì)量，可能會不自覺地延續(xù)數(shù)據(jù)中的偏差，甚至對那些不符合傳統(tǒng)模式的創(chuàng)新研究方法視而不見。而人類評審員憑借豐富的經(jīng)驗和批判性思維，能夠從技術(shù)和理論等多個層面，對研究進行全面、深入、嚴格的評估，這對于維護科學(xué)知識的準確性、完整性以及推動科學(xué)進步至關(guān)重要。因此，人工智能在科學(xué)研究領(lǐng)域，尤其是同行評審過程中，只能作為輔助工具，絕不能取代人類的專業(yè)判斷?！?/p>

顯而易見，至少在目前階段，ChatGPT等大語言模型還遠遠無法達到科學(xué)同行評審所要求的專業(yè)標準。科研工作者們彼此是學(xué)術(shù)道路上的同行伙伴，我們應(yīng)當(dāng)以尊重和嚴謹?shù)膽B(tài)度對待每一份來自同事的手稿。嚴格遵守保密原則，投入足夠的時間和精力進行評審，給予他人的研究成果以我們期望自己作品能得到的認真對待。此外，作為評審人，我們憑借長期積累的豐富經(jīng)驗所形成的獨特視角，能夠為所評審的手稿提供極具價值的見解和建議。這些建設(shè)性的意見不僅有助于提升手稿的質(zhì)量，更能從整體上推動科學(xué)研究事業(yè)的發(fā)展。

雖然大語言模型不適合直接用于手稿評審，但對于那些在英語表達上存在困難的科研人員來說，它卻可以在翻譯和語言潤色方面發(fā)揮積極作用。如今，利用大語言模型進行翻譯、語法檢查、拼寫糾正以及表達優(yōu)化，已經(jīng)成為一種常見的應(yīng)用方式。對于那些在英語寫作中感到吃力的科研工作者而言，大語言模型為他們打開了一扇與國際學(xué)術(shù)界更順暢交流的大門。若您撰寫評審意見時想借助大語言模型檢查英語表達，建議先上傳自己的內(nèi)容（無論多不完善），但務(wù)必排除能明確作者身份的信息，如姓名、所屬機構(gòu)等，同時也要避免過多透露手稿中的關(guān)鍵科學(xué)細節(jié)。在大語言模型生成潤色結(jié)果后，一定要仔細核對，確保輸出內(nèi)容與您的原始意圖一致。此外，還需特別注意的是，您應(yīng)當(dāng)向編輯明確說明在評審過程中使用了大語言模型進行翻譯或潤色，并注明所使用的具體模型名稱。一般而言，無論是評審人還是作者，只要在寫作或英語潤色過程中使用了大語言模型，都有責(zé)任和義務(wù)清晰地披露使用的時間、場景以及具體的模型，因為這些生成的文本并非出自本人之手，而是大語言模型的產(chǎn)物。

毋庸置疑，人工智能正在深刻地改變著科學(xué)研究的方式以及科研成果的傳播途徑。在運用人工智能技術(shù)，無論是用于預(yù)測化學(xué)結(jié)構(gòu)，還是進行語言潤色時，我們都應(yīng)時刻牢記本·費林加教授的提醒，始終保持“批判性態(tài)度”?？蒲泄ぷ髡卟荒軆H僅滿足于輸入數(shù)據(jù)，便盲目期待正確的輸出結(jié)果，而是要切實承擔(dān)起仔細評估人工智能（包括大語言模型）生成信息質(zhì)量和有效性的責(zé)任，這一點對于科研工作的準確性和可靠性至關(guān)重要。與此同時，科研工作者還應(yīng)養(yǎng)成在文本、圖像以及整個研究過程中，明確說明使用人工智能情況的良好習(xí)慣，因為這些成果中融入了大語言模型的“智慧”，只有清晰標注，才能保證學(xué)術(shù)的嚴謹性和規(guī)范性。

隨著秋季的臨近，世界各地許多大學(xué)即將迎來新學(xué)年。我們在此向所有幫助下一代化學(xué)家探索化學(xué)領(lǐng)域和研究空間的教授、教師和導(dǎo)師們致以誠摯的感謝?；瘜W(xué)及化學(xué)科學(xué)領(lǐng)域正經(jīng)歷著諸多變革，尤其是近年來人工智能的迅速崛起，這使得學(xué)生們扎實掌握化學(xué)過程的基礎(chǔ)知識變得愈發(fā)重要。只有憑借這樣的知識儲備，以及在學(xué)習(xí)實踐中培養(yǎng)出良好的科學(xué)直覺，他們才能更好地有效利用新興的基于人工智能的工具。正如有人所說：“大學(xué)科學(xué)家的首要任務(wù)是培養(yǎng)學(xué)生具備批判性思維。”考慮到科研成果交流的重要性，我們也希望教授、專業(yè)人員和學(xué)生們在準備和評審稿件時，都能花時間去了解并牢記在論文發(fā)表和評審過程中何時使用人工智能。

原文鏈接 https://doi.org/10.31635/ccschem.024.202400827ed1