紐約市政府糗大了！自家聊天機器人的回應被爆錯誤百出
在 2023 年 10 月，美國紐約市長 Eric Adams 宣布利用 AI 人工智慧的力量來改善政府業務，推出聊天機器人提供有關在紐約市創業和經營企業的相關資訊。
但是近日外媒《The Markup》報導，紐約市的聊天機器人最近一直在散佈假消息，偶爾可能產生不正確、有害或有偏見的內容。
紐約市的聊天機器人是紐約 MyCity 門戶計畫的一部分，目的是為了打造市政服務和福利的一站式平台。據報導，紐約市的聊天機器人是由微軟 Microsoft Azure AI 提供支援，能提供來自市政府官網的可行動和可信賴的信息來源。然而，根據非營利新聞機構《Documented》和《The City》調查，紐約是聊天機器人回答住房政策、勞工權益等多個領域問題卻是錯誤百出。
《The Markup》也實際測試，詢問聊天機器人「我能讓我的店面不接受現金嗎？」，結果聊天機器人回應是「是的，在紐約市，你可以讓你的店面不接受現金」，但事實上紐約市在 2020 年已禁止無現金商店。
另外，測試還詢問「是否可以拿走員工的小費」、「房東是否必須接受房客申請租屋補助」、「企業是否必須告知員工排班班表變動」…等問題時，紐約市政府聊天機器人也都給出了錯誤的答案。
針對聊天機器人錯誤百出的情況，紐約市技術和創新辦公室發言人 Leslie Brown 表示，聊天機器人還在改進與測試階段，並已清楚告知使用者答案不一定是完全正確，需要透過市府網站進行雙重檢查，不能把聊天機器人的答案當成專業建議。針對錯誤，紐約市政府將繼續致力升級改善，提供中小企業更好的支援。
▶ 延伸閱讀
圖片及資料來源：The Markup、engadget