電子發(fā)燒友網(wǎng)報道（文/李彎彎）近日，知名作家簡·弗里德曼(Jane Friedman)發(fā)現(xiàn)，亞馬遜上有以她的名義出售的新書，只是這些書不是由她所寫，而是由人工智能(AI)偽造的。

人工智能“偽造”新書并不是新鮮的事情，在當前的網(wǎng)絡(luò)文學中，已經(jīng)有很大的一部分的網(wǎng)絡(luò)文學作品都出自人工智能?？梢哉f，只要能夠掌握CahtGPT并且熟練的調(diào)用，不僅能模仿各種作者的風格，還可以根據(jù)用戶的要求持續(xù)性的創(chuàng)作。

人工智能偽造新書售賣

弗里德曼告訴媒體，一位細心的讀者想要閱讀更多她的作品，在亞馬遜上購買了一本新書。雖然該書的標題與她過去所寫的主題十分相似，但文字內(nèi)容明顯是由人工智能生成式模仿她的風格而成。

她表示：“當我看到這些書時，瀏覽開頭幾頁及簡介，就很明顯大部分內(nèi)容都是由人工智能生成的，因為我在網(wǎng)上有很多免費的內(nèi)容，如寫博客，所以讓人工智能來模仿我的風格并不難?！?br />
事實上，AI早就被用來出版書籍。施普林格·自然曾于2019年出版了第一本完全由AI生成的有關(guān)鋰離子電池的圖書，書名為《鋰離子電池：計算機生成的當前研究摘要》。施普林格·自然攜手德國法蘭克福大學等機構(gòu)合作開發(fā)了一種算法，用這種算法自動編寫了一本有關(guān)鋰離子電池最新研究進展的圖書。

隨后，2021年，施普林格·自然采用混合人機交互方式出版了另一本AI生成的文獻綜述圖書《氣候、行星和進化科學：計算機生成的文獻綜述》。不同于此前完全基于AI生成的關(guān)于鋰離子電池的圖書，這本新書采用了創(chuàng)新的混合人機交互方式。

新書將人工撰寫的文本和計算機生成的文獻綜述融合起來，計算機根據(jù)施普林格·自然出版的期刊先前發(fā)表的大量文章生成文獻綜述，然后由作者放入圖書的各個章節(jié)并提供科學觀點。

《CRISPR——計算機生成的文獻綜述》一書則是由施普林格·自然最新的AI平臺自動生成。如今隨著CahtGPT等生成式AI工具的出現(xiàn)，AI模仿作者出書的能力更強。

需要盡快規(guī)范生成式AI的發(fā)展

生成式人工智能工具如ChatGPT目前能夠快速、廉價地產(chǎn)生大量令人信服的文本。一些作家和作者已經(jīng)對此發(fā)出警告，擔心他們的工作會被這項新技術(shù)取代。同時，還有些作家表示不希望自己的研究成果被用于訓練人工智能模型。

上個月，美國立法者與創(chuàng)意產(chǎn)業(yè)成員包括作家協(xié)會進行了會面，討論了人工智能的影響。非營利作家倡導組織作家協(xié)會的首席執(zhí)行官瑪麗·拉森伯格呼吁制定立法保護作家免受人工智能的影響，其中包括要求人工智能公司在訓練模型時保持透明度。

此外，超過1萬名作家，包括瑪格麗特·阿特伍德、詹姆斯·帕特森和強納森·法蘭森等人，簽署了一封信，要求微軟、Meta Platforms和Alphabet等公司的領(lǐng)導人在未經(jīng)許可或未支付報酬的情況下不要使用他們的作品來訓練人工智能系統(tǒng)。

對于人類社會而言，AI所帶來的挑戰(zhàn)已經(jīng)越來越明顯。業(yè)界認為，盡快通過立法的方式來規(guī)范AI的發(fā)展很有必要。事實上，自ChatGPT發(fā)布以來，許多國家和地區(qū)也意識到其中的風險，開始規(guī)制或限制相關(guān)應(yīng)用。例如，歐盟將ChatGPT等生成式人工智能列入高風險人工智能清單，意大利等國一度以保護隱私為由在全國范圍內(nèi)禁止使用ChatGPT。

我國不久前發(fā)布《暫行辦法》全面、系統(tǒng)地為生成式人工智能的應(yīng)用設(shè)定了規(guī)制框架。比如，對于生成式人工智能可能產(chǎn)生的風險，《暫行辦法》要求生成式人工智能服務(wù)的提供者和使用者遵守法律、行政法規(guī)，尊重社會公德和倫理道德，尤其要做到：其一，不得生成虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容；其二，采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視；其三，不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢，實施壟斷和不正當競爭行為；其四，不得侵害他人肖像權(quán)、名譽權(quán)、榮譽權(quán)、隱私權(quán)和個人信息權(quán)益；其五，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準確性和可靠性。

小結(jié)

生成式人工智能是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)，如今已經(jīng)在多個領(lǐng)域?qū)崿F(xiàn)應(yīng)用。然而，生成式AI為人們的生產(chǎn)生活帶來便利的同時，也帶來了諸多挑戰(zhàn)。當前，除了探索生成式AI落地應(yīng)用，也需要積極思考如何規(guī)范AI的發(fā)展，以保證其真正賦能人們的生產(chǎn)生活，而不是造成危害。