AI 資安思維
AI 人工智慧與資訊安全防禦專業實戰班
AI資安定義?從CIA角度談AI資安
AI 資安(AI Security)的定義可以分為兩種,首先是 AI for Cybersecurity,由於 AI 的速度很快,可以全自動化或半自動化的去解決資安的問題,做好資安防禦,還可以針對資安做預測分析,讓使用者可以有足夠的反應時間,以加強使用者對系統的信任。另一種 AI 資安的定義是指 Security of AI,包括 AI 系統的規格怎麼驗證,怎麼去確保 AI 的功能、安全、強健性和公平性。AI 所作決策是不是能夠被信任?如果遇到對抗式攻擊,是否需要新技術?還有AI賦能系統能不能被信任?因此,如何從機密性、完整性、可用性來進行資安投資,包含購買防火牆、IPS(入侵預防系統)、IDS(入侵偵測)等資安設備,但對於企業經營者而言,資安部署如何在預防與貢獻本成上取得平衡?
學習AI資安思維,保護敏感資訊安全不再事後亡羊補牢
現在的AI應用,基本上都在解決實際工作與生活的問題,大多為當下遇到問題做解決,然而資安問題並不能等事後亡羊補牢!企業經營者應該從過往的資安漏洞經驗,然後放到 AI 的環境中,重新思考AI帶來的新威脅跟脆弱點。例如 AI 裡面有使用者隱私有關的資料或參數,有沒有可能被入侵竊取出來?AI 有沒有可能做出錯誤的決定?再者,資安戰場上的攻擊者跟防禦者,可比喻為貓捉老鼠的比速度遊戲,而 AI 在加入資安戰場後,攻防的速度會變得非常的快,從資料的蒐集或儲存,經過訓練產生各種模式,再整合到原來的 IT 系統,進而產生決定進行動作,此時只要有人在輸入資料時,故意塞入一點錯誤的內容,讓 AI 產生輸出錯誤的模型,而資安管理者卻沒有辦法發現其中的差異,就會產生很大的問題。因此,更需要透過「機器推理」來協助進行判斷,一步訓練機器識別數據模式的能力,允許系統對事實進行推理。讓管理者得以詮釋AI人工智慧學習產出的模型與結果、外界對於系統的攻擊跡象以及具體掌握模型附帶的測量機制等。
企業資安如何與AI建立互信機制,防範未來資安問題?
透過AI人工智慧,企業不僅能加速決策效率,更能夠讓企業資安防護網再升級。當企業猶豫於選擇簡單透明的模型,或是高效率不透明模型時,如果能掌握人工智慧新趨勢,讓機器學習的模型不再只是生硬的結果,而是可以防患於未然的模型,就能夠再往前躍進一步。同時,AI 絕對不是那麼簡單的只談技術,而是具有更高的複雜性,畢竟 AI 像是一個通用技術,因此,若能進一步透過資訊安全管理體系的整合,對於組織強化營運、技術,皆能達到落實整體資料安全管控的願景。未來才能在數位化浪潮下,抵擋各種快速演變的攻擊與勒索等威脅。
課程的三大重點
基礎觀念篇:基於深度學習的人工智慧
隨著人工智慧的快速發展,AI資安成為現今不可或缺的一環。本課程第一大重點,在於基礎觀念,掌握參數(parameter)包含權重(weight)與偏差(bias)給定資料,決定損失函數之後進行最小化。換言之,機器學習乃為目前AI 資訊安全隱患,因此更需要掌握充分訓練的神經網路進行對抗攻擊,才能適用於分類器、物件偵測等。
實戰應用篇:分類模型與生成模型
當AI之矛遇上AI之盾,如何因應? AI不僅可以應用在各種生活領域,同時也可以被用於網路攻擊。在本課程第二大重點,業師將深入解析引導學員理解如何防禦攻擊?首先必須知道攻擊者在獲取服務與模型等樣本模型,會進行攻擊,更必須注意可能的後門攻擊風險,因此採用神經網路架構會有較高的安全風險,另外大型語言模型(LLM)也有可能受到攻擊風險,例如事先在社群網站貼文、利用SEO網頁處放入惡意提示,打開讀取網頁等,就有可能造成個資外洩風險,如何防範?就是不可輕忽的細節所在!
實戰應用篇:深偽技術
影像或影片偽造?本課程第三大重點將講授,影像、影片、聲音偽造的風險。實務上常見到所謂的Deepfake,使用於人臉或人聲,但是基本原理為何?如何辨識與防範?使用臉部操作將會有何罰則?業師將說明機器學習如何偵測深偽影片,以及目前防範AI深偽變臉技術,如何從照片特徵找出問題?
課程大綱
基於深度學習的人工智慧
1-1 梯度下降法
1-2 卷積神經網路
1-3 自監督學習 SSL
1-4 對抗攻擊
1-5 對抗重程式化
1-6 預訓練模型
1-7 後門攻擊與木馬
白箱模型偵測、黑箱模型偵測與清除、生成模型
2-1 從訓練資料端偵測資料下毒
2-2 成員推理攻擊
2-3 Label-Only MIA
2-4 生成模型
2-5 如何防禦成員推理攻擊
2-6 大型語言模型
2-7 針對Aligned LLM的對抗攻擊
2-8 LLM應用
2-9 間接提示注入
2-10 可能威脅實際解說
2-11 文字影像模型
深偽技術Deepfake
3-1 深偽技術特徵與偽造方法
3-2 深偽技術種類
3-3 影像 / 影片偽造辨識種類
3-4 個人辨識偽造資訊的方法?
3-5 線上深偽偵測服務
3-6 Key Takeaways
課程學習前須知
- 實際授課內容、順序、師資或有調整,依課程現場為準。
加入我們一起學習 AI 人工智慧與資訊安全防禦專業實戰班!
授課業師
游家牧|陽明交通大學電機工程系 副教授
業師除任職陽明交大電機工程學系副教授一職,也擔任資訊管理與財務金融系學系合聘副教授。服務於經濟部標檢局資通訊國家標準技術委員、經濟部工業局資訊安全審查委員、數位部國家資通安全研究院技術顧問、帝濶智慧科技技術顧問。研究領域為AI資安與隱私、隱私強化技術(同態加密、聯邦學習等)、差分隱私與傳統去識別化技術。曾獲李國鼎磐石獎、國科會年輕學者養成計畫 (哥倫布計畫)、陽明交大青年講座教授、李國鼎青年研究獎、潘文淵研究考察獎等獎項,具豐富學術與落地實務經驗。
課程資訊
課程名稱
AI 資安思維:AI 人工智慧與資訊安全防禦專業實戰班(C1453)
課程各期時間與上課模式
#線上課程
。上課模式:第01期課程的錄製影片
。觀看方式:訂單完成隔日工作日開始觀看Email(信內附上影片連結,未收到Email,請務必與我們聯繫)
。觀看時間:依購買天數方案,自「觀看通知Email」寄送日起算第一天。
課程售票
VIP票券兌換:每人扣0.5 張VIP票券 ( VIP申購方案 )
課前搶先發問
AI資安思維是指針對AI系統在開發、訓練和應用過程中可能存在的資安風險進行的思考和防範,旨在保護個人隱私和機密資訊等敏感資料。
AI系統的使用范圍越來越廣泛,如果AI系統存在資安風險,就可能導致敏感資料洩漏、個人隱私泄露等問題。因此,需要對AI系統進行資安思維和防範。
AI系統可能存在的資安風險包括:模型攻擊、對抗樣本攻擊、隱私泄露、漏洞利用等。
要保護AI模型的私密性,可以使用加密技術和安全多方計算技術等方法,確保模型和數據在傳輸和存儲過程中不被未經授權的人員訪問或使用。
AI系統的使用可能受到國家和地區的法律限制,例如歐盟的GDPR和美國的CCPA等。在使用AI系統時,需要確保遵守相應的法律法規和標準,並遵循道德和倫理準則。
隱私保護技術是一種針對個人隱私的保護方法,包括匿名化、脫敏化、加密等技術手段,以確保敏感資料不被非授權人員訪問或使用。
要避免AI系統的偏見和歧視,需要在訓練和應用過程中考慮多樣性和公平性,使用平衡數據集、減少模型中的偏見等技術手段。
你有30天的回放觀看期,看到哪裡複習到哪裡,讓學員更有彈性的安排課程進度。
完成購課後,將以Email寄送觀看通知信件,信件內會說明課程登入方式,並附上影片專屬連結、觀看密碼。
目前天地人有以下優惠方案:
(1)買三送一:四堂課程(原價7,200)加入購物車,買三送一,單堂課只要3,650元。
(2)VIP優惠方案:銀卡方案(一次購買 11 張票,費用33,000元,平均每張票券優惠價:3,000元);金卡方案(一次購買 21 張票,費用57,750元,平均每張票券優惠價:2,750元)
(3)天地人幣:讓你額外享有1.6%-5.0% 現金回饋,除了自己,也可以贈與給朋友、公司同仁,直接折抵部分/全額課程費用!
(4)神秘優惠券:不定期推出課程現金折抵優惠券。