AI 越來越自主,香港中小企要怕 AI 失控嗎?讓 AI 代你做事前,先把 3 種控制權留在自己手上

作者:一塵網絡營銷團隊(Google SEO / GEO 顧問)

先講結論:AI 越可靠,越要清楚誰有最後決定權

近日有專家警告,先進的 AI 系統可能不斷自我改進,而且未必一開始就「出事」,反而會先表現可靠、贏得人類信任,到大家習慣放手後,才更難收回控制。這些屬專家的推測和警告,未有定論。

對香港中小企來說,未必要擔心科幻情節,但有一個很實際的問題:今天你讓 AI 自動回覆客人、自動發帖、自動改網站,它做得越好,你越少檢查。我們的觀點是:AI 可以多做,但有 3 種控制權要一直留在自己手上——帳戶擁有權、重要決定的批核權,以及隨時停止的權力。

私隱專員公署怎樣說:按風險決定人要管多少

內容整理圖表:私隱專員公署《人工智能(AI):個人資料保障模範框架》(2024 年 6 月)建議按 AI 系統的風險程度決定人為監督:風險較低可「人在環外」,由 AI 在沒有人為介入下作出決定;風險不可忽視時可「人為管控」,人類監督 AI 運作並在有需要時介入;高風險應「人在環中」,人類在決策過程中保留控制權;人類決策者須為 AI 的決策及輸出負最終責任

個人資料私隱專員公署在 2024 年 6 月發表《人工智能(AI):個人資料保障模範框架》,建議機構採取「風險為本」的方式:風險較低的 AI 應用可以「人在環外」,讓 AI 自動完成;風險較高的應「人在環中」,由人在決策過程中保留控制權;介乎兩者之間可以「人為管控」,由人監督 AI 運作,有需要時介入。公署亦指出,人類決策者應就 AI 的決策及輸出負上最終責任,並提醒要對過份依賴 AI 的「自動化的偏見」保持警覺。

換句話說,AI 越「可信」,越要提防自己不知不覺停止檢查。

對香港中小企的影響:3 種最容易交出去的控制權

  1. 帳戶擁有權:例如一間觀塘的裝修公司,讓 AI 工具或外判同事用自己的帳戶開網站、Google 商家檔案和 Search Console。日後想改供應商,才發現自己不是擁有者。
  2. 對外說話的權:AI 自動回覆查詢,答錯價錢或承諾工期,客人會當成你公司的正式回覆。
  3. 停止的權力:自動化流程越串越長,出錯時沒有人知道在哪裏按停。

我們替香港企業做 AI 搜尋檢查時,常見網站內容由不同工具自動更新,前後說法不一;客人和 AI 搜尋都只會看到混亂的資料。

方向由人決定:一列軟陶小火車在路軌上行駛,前面有一支大大的轉軌桿

實操清單:5 個做法

按風險分三級:一個軟陶交通燈,三盞燈分別是綠、黃、紅
  1. 列出 AI 現在做的每件事:回覆、發帖、改網頁、報價,逐項寫低。
  2. 按風險分三級:整理資料、草擬文案可以多放手;涉及價錢、承諾、客人個人資料的,一律要人批核才發出。
  3. 帳戶擁有者寫自己公司的名:網站、網域、Google 商家檔案及 Search Console 的擁有者應是公司自己的帳戶;Search Console 只有擁有者才能新增或移除使用者,給外判或工具開「完整」或「受限」權限便夠。
  4. 定好「停止按鈕」:每個自動化流程寫明誰可以暫停、怎樣暫停、暫停後由誰接手。
  5. 每季檢查一次:看看帳戶使用者名單,移除已不再合作的人和工具;抽查 AI 對外發出的內容。

這些做法不會令 AI 變慢多少,但萬一出錯,你知道在哪裏收線。

停止鍵要放在人手邊:白色小機械人雙手捧著一個軟陶大暫停按鈕遞給你

Q&A:香港中小企最常問的 AI 自主化問題

問:AI 真的會「奪權」嗎?

答:這是部分專家對先進 AI 的警告,屬推測,未有定論。對中小企更實際的,是不要在不知不覺間把帳戶和決定權交出去。

問:用 AI 自動回覆 WhatsApp 查詢可以嗎?

答:可以,但建議只讓 AI 回答營業時間、地址等固定資料;價錢、優惠和工期,由同事確認後才回覆。

問:把權限收回自己手上,會影響網站排名嗎?

答:權限設定本身不是排名因素,我們亦不作排名保證。但帳戶在自己手上,日後更新網站資料、處理問題都會快很多。

想知道 AI 現在怎樣介紹你的公司?

一塵網絡營銷可為你做一次免費 AI 搜尋檢查:看看 AI 怎樣介紹你的公司、資料是否準確,並幫你檢查網站及 Search Console 的擁有者設定是否在自己手上,不作排名保證。歡迎 WhatsApp +852 6739 8296、電郵 support@dusthk.com,或經聯絡我們頁面查詢。亦可參考我們的 Google SEO 服務及 GEO 生成式引擎優化服務。

資料來源:個人資料私隱專員公署《人工智能(AI):個人資料保障模範框架》(2024 年 6 月)第 2.2 部分「決定人為監督的程度」;Google Search Console 說明〈管理擁有者、使用者和權限〉。

註:本文由一塵網絡營銷團隊整理及撰寫;部分資料整理曾使用 AI 工具輔助,全文已由團隊人工審閱及核實。本文只供一般參考,不構成法律意見。