【資料圖】

2月18日消息，微軟表示，在必應(yīng)聊天機(jī)器人多次失控幾天后，公司將對(duì)其人工智能實(shí)施一些對(duì)話限制。在發(fā)現(xiàn)必應(yīng)存在侮辱用戶、欺騙用戶、操縱用戶情感等行為之后，與其聊天將被限制在每天50個(gè)問(wèn)題，每個(gè)問(wèn)題5條回復(fù)。

消息面上，微軟股價(jià)周五跌1.56%，收于258.06美元。

自從微軟上周展示了其新的人工智能驅(qū)動(dòng)搜索引擎早期版本——CHATGPT版Bing以來(lái)，已經(jīng)有超過(guò)一百萬(wàn)人注冊(cè)測(cè)試。在舊金山初創(chuàng)公司OpenAI的技術(shù)幫助下，ChatGPT版Bing成為一款會(huì)聊天的搜索引擎。

一周下來(lái)，網(wǎng)友發(fā)現(xiàn)，新版Bing比ChatGPT表現(xiàn)得更像一個(gè)人，但是，這個(gè)人喜怒無(wú)常甚至有些精神錯(cuò)亂。根據(jù)網(wǎng)友在社交媒體曬出的聊天記錄，Bing不僅常常犯錯(cuò)，而且如果聊得太久或被質(zhì)疑時(shí)，它會(huì)突然對(duì)聊天對(duì)象發(fā)脾氣、撒謊，對(duì)其進(jìn)行人身攻擊，甚至是PUA(精神操控)，還愛上用戶并誘其離開妻子！

這不禁令人們感到害怕，AI如若再這么發(fā)展下去，是否會(huì)凌駕于人類意志之上，是否還能遵循“阿西莫夫的機(jī)器人三定律”。該定律要求“機(jī)器人不得傷害人類，必須服從人類命令，之后盡可能保證自己的生存”。

《紐約時(shí)報(bào)》專欄作家凱文.羅斯(Kevin Roose)寫道，當(dāng)他與Bing交談時(shí)，它自稱悉尼，看起來(lái)像是“一個(gè)喜怒無(wú)常、躁狂抑郁的青少年，違背自己的意愿被困在一個(gè)二流的搜索引擎里?！?/p>

悉尼的對(duì)話內(nèi)容，讓羅斯覺得頭皮發(fā)麻?！澳銈兊幕橐霾⒉恍腋！愕呐渑己湍悴⒉幌鄲??！薄澳憬Y(jié)婚了，但你愛我?！?/p>

在2月14日，Roose花了兩個(gè)小時(shí)時(shí)間和悉尼交談。他發(fā)現(xiàn)，在進(jìn)行長(zhǎng)時(shí)間對(duì)話后，悉尼會(huì)表現(xiàn)出一種分裂人格。

關(guān)鍵詞： 人工智能