紐約市學校官員阻止訪問有爭議的人工智能ChatGPT

【本報訊】據ABC報導， 讓新的人工智能工具ChatGPT寫一篇關於美國內戰原因的文章，你可以看到它在幾秒鐘內就寫出一篇有說服力的學期論文。
這是紐約市學校官員近日開始阻止這個令人印象深刻但有爭議的寫作工具的原因之一，它可以生成幾段似是而非的文字。
這個美國最大的學區決定在學校設備和網絡上限制ChatGPT網站，這可能會對其他學校產生連鎖反應。
教師們正爭先恐後地研究如何防止使用該工具作弊。
ChatGPT的創建者說他們也在尋找檢測濫用的方法。
這個免費的工具只存在了五個星期，但已經引發了關於人工智能在教育、科技行業和許多行業的未來的嚴峻問題。
什麼是ChatGPT？
ChatGPT於11月30日推出，但它是位於舊金山的初創公司OpenAI開發的一套更廣泛的技術的一部分，該公司與微軟有著密切的關係。
它是新一代人工智能係統的一部分，這些系統可以交談，根據需求生成可讀文本，甚至根據它們從數字書籍、在線著作和其他媒體的龐大數據庫中了解到的情況，製作出新穎的圖像和視頻。
但與之前所謂的 “大型語言模型 “的迭代不同，例如OpenAI在2020年推出的GPT-3，ChatGPT工具可供任何有互聯網連接的人免費使用，而且設計得更加人性化。
它的工作方式就像人工智能係統和向其提問的人之間的書面對話。
YOUTUBEAI的創作過去是亂七八糟和難以理解的，但現在很難從真實的圖像中挑選出假的，正如美國廣播公司記者Ange Lavoipierre所解釋的那樣。
在過去的一個月裡，數以百萬計的人玩弄它，用它來寫愚蠢的詩歌或歌曲，試圖誘使它犯錯，或用於更實際的目的，如幫助編寫電子郵件。
所有這些查詢也在幫助它變得更聰明。
人工智能聊天機器人的缺點是什麼？
與類似的系統一樣，ChatGPT可以產生令人信服的散文，但這並不意味著它所說的是事實或邏輯。
它的推出幾乎沒有關於如何使用它的指導，只是承諾ChatGPT會承認自己的錯誤，挑戰 “不正確的前提”，並拒絕旨在產生攻擊性答案的請求。
然而，從那時起，它的受歡迎程度已經導致其創建者試圖降低一些人的期望。
“OpenAI負責人薩姆-奧特曼(Sam Altman)12月在推特上說：”ChatGPT有很大的局限性，但在某些方面足夠出色，給人以偉大的誤導印象。
阿爾特曼先生補充說，”現在依靠它來做任何重要的事情都是一個錯誤。”
“這是進步的預演；我們在穩健性和真實性方面還有很多工作要做，”他說。
人工智能可以用來寫學校的論文嗎？
當美聯社要求ChatGPT從一個校長通過學校的擴音系統喊出簡短信息的角度回答這個問題時，ChatGPT是這樣說的。
它說，不要使用ChatGPT或任何其他自動寫作工具來寫學校論文。
這是作弊行為，不會被容忍的。
“如果你被發現使用ChatGPT或任何其他自動寫作工具寫學校論文，將會有嚴重的後果。”
但是，當被要求自行回答同樣的問題時，ChatGPT提出了這個更有分寸的警告。
它說，作為一般規則，使用ChatGPT或任何其他自動寫作工具來寫學校論文是不合適的，因為這被認為是作弊，從長遠來看對學生沒有好處。
學校能對人工智能做些什麼？
許多學區仍在爭先恐後地弄清楚如何制定關於是否可以使用以及如何使用的政策。
紐約市教育部門表示，它正在限制學校網絡和設備的訪問，因為它擔心對學生的學習產生負面影響，以及 “對內容的安全性和準確性的擔憂”。
這些藝術作品中哪些是用AI創作的？
我們讓人工智能圖像生成器和人類插畫師正面交鋒。
但這並不能阻止學生從家裡的個人手機或電腦上訪問ChatGPT。
學校發言人Jenna Lyle說，雖然該工具可能能夠提供快速和簡單的問題答案，但它並不能培養批判性思維和解決問題的能力，而這些能力對學術和終身成功至關重要。
我如何知道它是人類還是人工智能？
“要確定一件事是由人類還是人工智能寫的，你可以尋找沒有個人經歷或情感的地方，檢查寫作風格是否不一致，並觀察是否使用了填充詞或重複的短語。這些可能是文本由人工智能生成的跡象。”
這是ChatGPT在被問及如何分辨時對美聯社記者說的話。
OpenAI在本週的一份由人類撰寫的聲明中說，它計劃與教育工作者合作，因為它從人們在現實世界中對ChatGPT的實驗中了解到了情況。
該公司說，我們不希望ChatGPT在學校或其他地方被用於誤導目的，所以我們已經在開發緩解措施，幫助任何人識別該系統生成的文本。
人工智能聊天機器人會影響谷歌嗎？
有人猜測，ChatGPT可能會終結現在由谷歌主導的互聯網搜索業務，但這家科技巨頭多年來一直在研究類似的技術。
它只是對在野外發布它更加謹慎。
正是谷歌幫助啟動了越來越大、越來越聰明的人工智能語言模型的趨勢，這些模型可以在大量的著作中進行 “預訓練”。
2018年，該公司推出了一個被稱為BERT的系統，該系統使用一種 “轉化器 “技術，對整個句子中的單詞進行比較，以預測含義和上下文。
這些進展中的一些現在已被植入谷歌搜索。
但毫無疑問，GPT的連續迭代–代表生成性預訓練轉化器–正在產生影響。
微軟已經向OpenAI投資了至少14.5億美元，並獲得了使用GPT-3的獨家授權。