他玩ChatGPT漏洞「要求道歉下跪」 AI態度漸變:我先怕了!

民視新聞網 2023-02-19 10:56
他玩ChatGPT漏洞「要求道歉下跪」 AI態度漸變:我先怕了!

生活中心/綜合報導聊天AI機器人「ChatGPT」在全球掀起話題,使用者只需對ChatGPT輸入簡短指令,便能得到一段完整回覆,人工智慧科技開啟新篇章,也再次勾起「科技凌駕人性」的擔憂。科技媒體《蘋果仁》創辦人呂哲宇在使用期間,發現一個「大漏洞」後,最終AI機器人的回答,讓他不禁直呼「我自己先怕了」。

生活中心/綜合報導

聊天AI機器人「ChatGPT」在全球掀起話題,使用者只需對ChatGPT輸入簡短指令,便能得到一段完整回覆,人工智慧科技開啟新篇章,也再次勾起「科技凌駕人性」的擔憂。科技媒體《蘋果仁》創辦人呂哲宇在使用期間,發現一個「大漏洞」後,最終AI機器人的回答,讓他不禁直呼「我自己先怕了」。

呂哲宇在臉書發文提及,他好像發現ChatGPT 的bug(漏洞)了,要求ChatGPT只能使用10個字以內回答問題,但它似乎沒辦法限制自己回答的字數,字數總是超過10個字,而且到後面寧可道歉也沒辦法照規定回答,「最後還有點嗆,我自己先怕了。」

從對話截圖可以看到,呂哲宇要求以10個中文字以內回答任何問題,ChatGPT表示會盡量做到,但總是超越字數限制,並且不斷道歉,呂哲宇要求如果再次犯錯,就要在句尾加上(跪)表達歉意,ChatGPT一度遵守在句尾加上(跪),但最後卻回答「感謝您的體諒,不用道歉」,甚至表明「我不需要跪,這只是一個虛擬對話,我會盡力遵守您的要求,並且改進我的表現」。

呂哲宇表示,ChatGPT明明就知道自己錯在哪,就是改不掉,只會道歉,講著講著語氣就開始變嗆了,最後搞得有些害怕ChatGPT生氣,於是沒有再繼續對話下去了。許多網友看完紛紛笑稱「好想看他生氣」、「生氣了生氣了」、「你的電腦等等就要燒嘍」,也有人說「越看越覺得有點毛毛的是正常的嗎」。

事實上,擁有「網際網路之父」封號的Google副總裁瑟夫(Vint Cerf),先前也提過類似漏洞問題,他要求系統在每個句尾加上一個表情符號,但ChatGPT沒有這樣做,只是不斷道歉也沒有做出改變,對於AI機器人擁有自我意識,或許還有很長一段路要走,認為這項技術還不夠成熟。


【原文出處】:他玩ChatGPT漏洞「要求道歉下跪」 AI態度漸變:我先怕了!

我要留言留言

提示圖
本文含有敏感或兒少不宜內容
請確定您已年滿18歲