No Code、 Low Code 風險

與生成式 AI 結合的風險

1. 模型準確性與可靠性
   1. 生成式 AI 本身具有不確定性、幻覺
   2. 驗證機制不足
   3. ➡️解方：建立多層次驗證機制，結合自動化檢測與人工審核，確保生成內容的準確性與一致性。
2. 資料隱私與安全性
   1. 敏感資料洩漏
   2. 合規風險：需遵循個資法（GDPR、CCPA）等相關法規
   3. ➡️解方：採用資料加密、匿名化與權限控管機制，確保資料安全與法規合規。
3. 道德與倫理風險
   1. 生成虛假資訊，可能被惡意濫用
   2. 偏見與歧視
   3. ➡️解方：建立倫理準則與使用規範，導入公平性檢測工具，確保 AI 負責任地應用。
4. 技術整合與平台適配性
   1. 系統整合難度：將生成式 AI 模型無縫整合至 No Code / Low Code 平台，需克服技術與架構差異。
   2. 效能優化挑戰：生成式 AI 模型需求資源高
   3. ➡️解方：選擇具備 API 擴充能力的開放式平台，並採用雲端運算分散資源負載。

讓程式更可靠的四大面向

1. 數據品質治理
   1. 數據多樣性、避免偏見
   2. 定期審核、更新資料集，模型持續學習新資訊
2. 模型效能評估
   1. 多維度評估指標（準確性、可靠性、創造性）全面檢測模型表現
   2. 定期進行壓力測試與場景模擬
3. 人機協作
   1. HIC、HITL、HOTL
   2. 在關鍵應用場景設置人工干預機制
4. 安全防護與風險控管
   1. 建立多層次防護措施，防止模型遭惡意攻擊或生成有害內容
   2. 定期進行資安檢測與弱點掃描

3 題模擬練習題

題目 1

在結合生成式 AI 的系統中，為確保內容準確性與一致性，下列哪項解決方案最合適？
A. 只依賴自動化檢測工具，以減少人工成本
B. 完全由人工審核所有生成內容
C. 建立多層次驗證機制，結合自動化檢測與人工審核
D. 不進行內容驗證，讓用戶自行判斷

答案： C
詳解： 生成式 AI 有生成錯誤或幻覺的風險，且自動化檢測有一定限制，單靠人工審核則不具效率。因此，結合自動化檢測與人工審核的多層次驗證機制，能有效提升內容品質與一致性，是最合適的方案。

題目 2

在 AI 系統設計中採用 HITL（Human-In-The-Loop）方式，主要目的是什麼？
A. 完全自動化系統，減少人力參與
B. 人類長期監控系統，少量介入即可
C. 人類直接介入決策或控制環節，即時提供反饋與判斷
D. 置入人機協同合作平台，雙方平行互動

答案： C
詳解： HITL 重點在於系統運作時人類實時介入決策或控制過程，提供即時反饋。這在高風險應用（如醫療、金融）中特別重要，可提升系統的準確性與安全性。

題目 3

針對生成式 AI 涉及的資料隱私和合規風險，下列哪項措施最能有效降低風險？
A. 採用開放數據，無需加密和權限控管
B. 僅控制部分敏感資料，其他公開使用
C. 採用資料加密、匿名化技術和嚴密的權限控管，確保符合 GDPR、CCPA 等法規
D. 只在本地端使用生成式 AI，無須遵守任何合規要求

答案： C
詳解： 敏感資料洩露及合規風險須嚴格管控，使用加密、匿名化及權限控管技術，並確保符合法規要求（如 GDPR、CCPA）是最佳實踐，避免法律及信譽風險。