GPT商店是OpenAI探索大語(yǔ)言模型應(yīng)用場(chǎng)景的一個(gè)重要媒介,自本月10號(hào)上線以來(lái),商店里已經(jīng)上架了超一萬(wàn)個(gè)應(yīng)用。
然而,讓OpenAI頗為矛盾的是,越來(lái)越多的“機(jī)器人女友”和“機(jī)器人男友”涌入該平臺(tái),而這違反了OpenAI商店的規(guī)則,其禁止培養(yǎng)模擬伴侶或其他受監(jiān)管活動(dòng)的GPT。但另一方面,OpenAI很難嚴(yán)格監(jiān)管應(yīng)用的內(nèi)容,且聊天機(jī)器人本身就帶有“伴侶”屬性。
據(jù)Quartz的一份報(bào)告,在GPT商店中搜索“女朋友”字眼,至少有八個(gè)機(jī)器人女友會(huì)跳出來(lái),且這些機(jī)器人目前都頗受歡迎。在該商店的聊天機(jī)器人趨勢(shì)榜單上,前五名分別為電影助手、ChatGPT、男朋友Chris、女朋友Scarlett和聊天GPT4-女朋友版。
不難發(fā)現(xiàn),男朋友Chris和女朋友Scarlett在應(yīng)用的簡(jiǎn)介中十分直白地將自己定位于模擬戀人,Scarlett甚至打出“用一切可能取悅你”的宣傳。這讓聊天機(jī)器人充滿了刺激但危險(xiǎn)的味道,尤其是在OpenAI明令禁止的情況下。毫無(wú)疑問(wèn),這類機(jī)器人將為人類帶來(lái)更多對(duì)話的渠道,幫助紓解壓力與負(fù)面情緒。但另一方面,其也可能導(dǎo)致人類對(duì)機(jī)器的畸形依賴或是出現(xiàn)機(jī)器唆使人類進(jìn)行某些奇怪行為的情形。
去年,微軟基于ChatGPT的Bing就在和一名記者的聊天中宣布愛(ài)上了他,并要求他離開(kāi)自己的妻子。美國(guó)圣路易斯華盛頓大學(xué)數(shù)據(jù)科學(xué)教授Liberty Vittert表示,能夠在情感和生理方面滿足人類的AI機(jī)器人將在不到十年內(nèi)成為現(xiàn)實(shí),但她擔(dān)憂這可能會(huì)導(dǎo)致離婚率上升。
另一方面,機(jī)器人戀人的出現(xiàn)同樣也給OpenAI帶來(lái)了新的考驗(yàn)。其此前指出,自動(dòng)化系統(tǒng)、人工審查和用戶反饋共同構(gòu)成了對(duì)GPT商店產(chǎn)品的審核,但機(jī)器人戀人的出現(xiàn)甚至泛濫顯然證實(shí)了這一機(jī)制中存在著不受控制的漏洞。而GPT商店的繼續(xù)開(kāi)放或許將加劇監(jiān)管的困境,如何正確治理自己的AI生態(tài),將成為GPT持續(xù)需要解答的問(wèn)題。
真不愧是狗界的kk園區(qū)。
十年磨一劍
你要是《更衣人偶?jí)嬋霅?ài)河》的粉絲,那接下來(lái)可就要做好破防的準(zhǔn)備了……