ChatGPT的橫空出世使以往只能發(fā)生在科幻小說(shuō)中的場(chǎng)景照進(jìn)現(xiàn)實(shí)，人工智能系統(tǒng)已經(jīng)能夠使用自然語(yǔ)言與人類(lèi)流暢地對(duì)話。雖然在此之前，手機(jī)語(yǔ)音助手、家庭生活助手等人機(jī)交互應(yīng)用程序已經(jīng)屢見(jiàn)不鮮，但彼時(shí)的人工智能對(duì)話水平還停留在不斷重復(fù)回應(yīng)著“對(duì)不起，我聽(tīng)不懂你在說(shuō)什么”等固定句式的階段。而ChatGPT自問(wèn)世起便刷新了人們對(duì)人工智能的認(rèn)知，其詳細(xì)的回應(yīng)、連貫的邏輯和清晰的表達(dá)令人耳目一新。
一
事實(shí)上，包括ChatGPT在內(nèi)的大型語(yǔ)言模型現(xiàn)階段已經(jīng)具備強(qiáng)大的自然語(yǔ)言處理能力，不僅能夠根據(jù)用戶輸入的指令生成多樣化、個(gè)性化的回復(fù)，還能理解上下文、連續(xù)參與多輪連貫對(duì)話，甚至在一定程度上流露出情感態(tài)度，不再受限于單一或刻板的說(shuō)辭，為人們提供了更加仿真、流暢和自然的對(duì)話體驗(yàn)。
大型語(yǔ)言模型在文本分析、語(yǔ)言表達(dá)和信息生成等方面表現(xiàn)出一定的優(yōu)勢(shì)，可以對(duì)各種領(lǐng)域的自然語(yǔ)言輸入作出前所未有的響應(yīng)。從理想狀態(tài)來(lái)看，它可以在多種情景下為人的發(fā)展賦能。第一，大型語(yǔ)言模型在本質(zhì)上是一種生成式人工模型，可以被用于完成文本生成、自動(dòng)摘要、自動(dòng)翻譯等機(jī)械性任務(wù)，使人們從某些枯燥乏味或缺乏技術(shù)含量的重復(fù)性工作中解脫，減輕工作負(fù)擔(dān)，提升生活質(zhì)量，或?qū)⒏嗑Ψ旁诟哂袆?chuàng)造性和創(chuàng)新性的工作上，提高勞動(dòng)價(jià)值與勞動(dòng)效率。第二，大型語(yǔ)言模型就用戶的提問(wèn)或輸入進(jìn)行合理解答，是一種有效的知識(shí)傳播途徑和教育手段，從而促進(jìn)人的教育權(quán)利的發(fā)展。第三，生成式人工智能可以在創(chuàng)意寫(xiě)作、藝術(shù)創(chuàng)作等方面提供輔助，為創(chuàng)作者提供靈感、生成創(chuàng)意，促使更多優(yōu)秀文學(xué)藝術(shù)作品的誕生，在滿足創(chuàng)作者自我價(jià)值實(shí)現(xiàn)的同時(shí)，也豐富社會(huì)公眾的精神世界。
二
然而，盡管大型語(yǔ)言模型的自動(dòng)生成技術(shù)給人們的生活帶來(lái)了巨大的潛力和機(jī)會(huì)，但如果不加以適當(dāng)?shù)目刂坪凸芾恚瑢⒖赡芤l(fā)一系列難以預(yù)測(cè)的社會(huì)問(wèn)題，危及人類(lèi)自身的發(fā)展權(quán)利。
其一，ChatGPT等大型語(yǔ)言模型容易導(dǎo)致偏見(jiàn)和歧視，威脅某些群體尤其是特定群體的平等權(quán)益。ChatGPT通過(guò)在大規(guī)模文本數(shù)據(jù)上進(jìn)行預(yù)訓(xùn)練來(lái)學(xué)習(xí)文本的語(yǔ)義和語(yǔ)法規(guī)則，從而生成高質(zhì)量的自然語(yǔ)言文本。一方面，預(yù)訓(xùn)練的過(guò)程需要人類(lèi)人工智能訓(xùn)練師的參與，而人工智能訓(xùn)練師難以避免將主觀判斷植入數(shù)據(jù)選擇、參數(shù)設(shè)定、策略調(diào)整等環(huán)節(jié)；另一方面，大量的文本數(shù)據(jù)輸入是機(jī)器學(xué)習(xí)的前提，如果輸入的訓(xùn)練數(shù)據(jù)本身帶有偏見(jiàn)，得出的語(yǔ)言模型自然會(huì)形成帶有偏見(jiàn)的結(jié)果。從現(xiàn)實(shí)條件來(lái)看，訓(xùn)練數(shù)據(jù)更容易從互聯(lián)網(wǎng)資源中獲得，而供給這些數(shù)據(jù)的用戶較為特定，更多地是年輕人、發(fā)達(dá)國(guó)家國(guó)民、英語(yǔ)使用者、白人、男性以及富人等資源掌控群體，其代表性難以考證，可能導(dǎo)致ChatGPT生成答案的不公。
其二，ChatGPT等大型語(yǔ)言模型在數(shù)據(jù)訓(xùn)練、人機(jī)交互的過(guò)程中可能侵犯用戶的隱私權(quán)，尤其是與個(gè)人數(shù)據(jù)、敏感個(gè)人信息相關(guān)的重要權(quán)益。首先，模型在預(yù)訓(xùn)練時(shí)采集個(gè)人數(shù)據(jù)信息的渠道未必合法合規(guī)，其可能通過(guò)第三方購(gòu)買(mǎi)或使用爬取技術(shù)等方式訪問(wèn)、處理和存儲(chǔ)用戶的敏感個(gè)人信息，在此過(guò)程中數(shù)據(jù)主體的知情權(quán)和授權(quán)范圍難以落實(shí)。其次，在人機(jī)交互對(duì)話的過(guò)程中，如果用戶提供了敏感個(gè)人信息，生成式語(yǔ)言模型可能會(huì)在后續(xù)向他人生成的文本中包含這些信息，甚至將這些信息儲(chǔ)存至模型訓(xùn)練數(shù)據(jù)集中進(jìn)行深度學(xué)習(xí)，導(dǎo)致隱私泄露、信息不當(dāng)使用等問(wèn)題。此外，大型語(yǔ)言模型還可能在用戶不知情的情況下根據(jù)其輸入的內(nèi)容對(duì)用戶進(jìn)行畫(huà)像，分析并推斷出用戶的身份、興趣、位置和情感等個(gè)人信息，用于追蹤與定位個(gè)人，增加其隱私泄露的風(fēng)險(xiǎn)。
其三，ChatGPT等大型語(yǔ)言模型可能導(dǎo)致失業(yè)風(fēng)險(xiǎn)升高，侵犯勞動(dòng)者的勞動(dòng)與就業(yè)權(quán)利，并加劇社會(huì)利益的分化。一方面，在客服、文員、數(shù)據(jù)整理等涉及重復(fù)性文本生成任務(wù)的行業(yè)，大型語(yǔ)言模型的應(yīng)用可能使得未能掌握核心技術(shù)的底層勞動(dòng)者的就業(yè)資格受到威脅。另一方面，大型語(yǔ)言模型的開(kāi)發(fā)和訓(xùn)練通常需要耗費(fèi)大量的能源，硬件資源和計(jì)算資源的使用離不開(kāi)大量的電能供給，數(shù)據(jù)的收集、存儲(chǔ)和處理也涉及能源的消耗，增加了在環(huán)境資源可持續(xù)發(fā)展方面的壓力。在此過(guò)程中，大眾群體共同消化了資源與環(huán)境的負(fù)外部性，卻難以參與利益的分享與利潤(rùn)的分配，這將加劇社會(huì)財(cái)富的集中，甚至造成壟斷，擠占底層人民的生存空間。
其四，ChatGPT等大型語(yǔ)言模型可能使人的獨(dú)立思考能力和認(rèn)知能力退化，并逐漸被算法模型奴役。帕斯卡爾說(shuō)過(guò)，人是一根能思想的葦草，人類(lèi)全部的尊嚴(yán)就在于有思想。當(dāng)人們把思考與寫(xiě)作外包給機(jī)器，將導(dǎo)致表達(dá)能力下降，批判性與創(chuàng)造性思維減弱，思維深度受限，信息篩選與辨別能力弱化，最終可能使得人類(lèi)思維的多樣性減少，情感表達(dá)日益淡漠與缺失，這或許將意味著人在逐漸喪失作為人類(lèi)的主體地位。
概言之，大型語(yǔ)言模型雖然充滿誘惑，但如潘多拉魔盒般隱藏著不可忽視的人權(quán)隱患，需要綜合考慮技術(shù)、倫理、政策和社會(huì)等多個(gè)方面，審慎對(duì)待。如何在法律與社會(huì)的監(jiān)管下確保技術(shù)的應(yīng)用不侵犯人權(quán)和社會(huì)價(jià)值，目前仍是一個(gè)亟待解決的棘手問(wèn)題。
?。ü└澹簭V東工業(yè)大學(xué)數(shù)字人權(quán)研究中心 作者：劉天舒，廣東工業(yè)大學(xué)法學(xué)院博士后）
京公網(wǎng)安備 11010102003980號(hào)