AI 資安思維：AI 人工智慧與資訊安全防禦專業實戰班

AI資安定義？從CIA角度談AI資安

AI 資安（AI Security）的定義可以分為兩種，首先是 AI for Cybersecurity，由於 AI 的速度很快，可以全自動化或半自動化的去解決資安的問題，做好資安防禦，還可以針對資安做預測分析，讓使用者可以有足夠的反應時間，以加強使用者對系統的信任。另一種 AI 資安的定義是指 Security of AI，包括 AI 系統的規格怎麼驗證，怎麼去確保 AI 的功能、安全、強健性和公平性。AI 所作決策是不是能夠被信任？如果遇到對抗式攻擊，是否需要新技術？還有AI賦能系統能不能被信任？因此，如何從機密性、完整性、可用性來進行資安投資，包含購買防火牆、IPS（入侵預防系統）、IDS（入侵偵測）等資安設備，但對於企業經營者而言，資安部署如何在預防與貢獻本成上取得平衡？

學習AI資安思維，保護敏感資訊安全不再事後亡羊補牢

現在的AI應用，基本上都在解決實際工作與生活的問題，大多為當下遇到問題做解決，然而資安問題並不能等事後亡羊補牢！企業經營者應該從過往的資安漏洞經驗，然後放到 AI 的環境中，重新思考AI帶來的新威脅跟脆弱點。例如 AI 裡面有使用者隱私有關的資料或參數，有沒有可能被入侵竊取出來？AI 有沒有可能做出錯誤的決定？再者，資安戰場上的攻擊者跟防禦者，可比喻為貓捉老鼠的比速度遊戲，而 AI 在加入資安戰場後，攻防的速度會變得非常的快，從資料的蒐集或儲存，經過訓練產生各種模式，再整合到原來的 IT 系統，進而產生決定進行動作，此時只要有人在輸入資料時，故意塞入一點錯誤的內容，讓 AI 產生輸出錯誤的模型，而資安管理者卻沒有辦法發現其中的差異，就會產生很大的問題。因此，更需要透過「機器推理」來協助進行判斷，一步訓練機器識別數據模式的能力，允許系統對事實進行推理。讓管理者得以詮釋AI人工智慧學習產出的模型與結果、外界對於系統的攻擊跡象以及具體掌握模型附帶的測量機制等。

企業資安如何與AI建立互信機制，防範未來資安問題？

透過AI人工智慧，企業不僅能加速決策效率，更能夠讓企業資安防護網再升級。當企業猶豫於選擇簡單透明的模型，或是高效率不透明模型時，如果能掌握人工智慧新趨勢，讓機器學習的模型不再只是生硬的結果，而是可以防患於未然的模型，就能夠再往前躍進一步。同時，AI 絕對不是那麼簡單的只談技術，而是具有更高的複雜性，畢竟 AI 像是一個通用技術，因此，若能進一步透過資訊安全管理體系的整合，對於組織強化營運、技術，皆能達到落實整體資料安全管控的願景。未來才能在數位化浪潮下，抵擋各種快速演變的攻擊與勒索等威脅。