:::

校園公告

公告主旨 轉知教育部「中小學使用生成式人工智慧注意事項」
發佈日期 2024 年 7 月 09 日
發佈單位 資訊組
公告類別 行政公告, 學生家長公告
公告等級 普通
點閱次數 10
公告內容

近年來,「生成式人工智慧」(Generative AI)工具和「深偽技術」(Deepfake)
等的蓬勃發展,為社會帶來許多新的機會和改變,這些技術改變了我們原本
獲取知識、傳播訊息、創造內容的方式,同時也增加了許多使用風險。為了幫
助中小學教師、行政人員及家長提升「生成式人工智慧」工具使用素養,以善
用相關技術並避免造成誤用或濫用,提供以下六個要點作為使用參考。

一、理解「生成式人工智慧」工具產生的內容可能有所偏誤:由於用來訓練
生成式人工智慧工具的資料來自於既有的紀錄或經驗,如果這些訓練資
料本身帶有成見及錯誤,那麼使用生成式人工智慧工具產出的結果就會
有偏差或錯誤,且工具本身無法自行判斷所產出的結果是否正確和合理。
所以當我們在使用生成式人工智慧工具時,應該檢視與審查其產生的結
果,以確保其正確性和合乎常理。

二、理解「生成式人工智慧」工具可能會減少訊息的多樣性:如果用來訓練
生成式人工智慧工具的資料受到地域或文化的限制,且不夠多元廣泛,
這些工具產生的結果可能僅能呈現單一文化的知識脈絡與觀點,甚至進
一步強化原有的偏見。所以當我們在使用生成式人工智慧工具時,應該
結合自己的經驗和批判性思維來檢視結果,而不是全盤接受生成的內容。

三、理解「生成式人工智慧」內容的辨識工具僅能作為初步篩檢:隨著生成
式人工智慧工具的快速發展,有許多可以協助辨識生產內容的工具。所
以我們需要了解這些辨識工具有其限制性,只能作為輔助與參考,仍須
仰賴常理、直覺和其他證據來協助辨識內容是否來自於生成式人工智慧
工具。

四、察覺「深偽技術」日益逼真會產生不實的內容:深偽技術是能修改臉部
影像的深度仿造技術,原理是使用生成式人工智慧工具創建的虛假內容。
這項技術能運用既有圖片、影像或聲音等素材,製造出看似真實的影片
和圖像,甚至假新聞。所以當我們在觀看網路內容時,不要輕易相信未
經審核的影片或照片,並留意該內容是否為深偽技術合成,和判斷可能
的目的與動機。

五、意識「生成式人工智慧」工具可能洩漏個人與組織的隱私與機密:部分
用來訓練生成式人工智慧工具的資料庫目前在取得、儲存和使用上都還
沒有完備的法令、規範及倫理上的監管機制,因此,在使用生成式人工
智慧工具時,提供的個人資料、敏感訊息及機密數據,都可能會被收錄
到訓練資料庫中,作為未來回應他人的內容。所以我們在使用生成式人
工智慧工具時,應該審慎評估提供的資訊,是否具有機密性、隱私性與
敏感性,以保護個人與組織的隱私與機密。

六、避免過度依賴「生成式人工智慧」工具而侵犯智慧財產權與違反學術倫
理:使用人工智慧工具生成教案、試題、計畫等相關教學內容時,須謹
慎檢視內容及用詞是否符合教育現場的使用規範與標準。所以我們需規
範使用生成式人工智慧於學業的時機與方式,並提醒學生使用時可能會
侵害他人的智慧財產權,以及有違反學術倫理的疑慮,如沒有提供出處
將造成概念上的抄襲。

生成式人工智慧技術的發展,為我們的生活帶來了許多便利,並廣泛運用
在各種情境中,卻也伴隨著一定的風險和挑戰。在這個數位時代,我們應該
保持對資訊來源的高度警覺,不要輕易相信未經證實的訊息,並學會如何辨
別虛假資訊。同時,我們要提升自己思辨的能力,批判性地分析和評估生成
式人工智慧工具所產生的內容,避免被誤導。遵守相關的道德和法律規範,
確保使用生成式人工智慧工具時不違反社會常規與資訊倫理。最後,我們應
該加強自己的數位素養能力,才能在享受科技進步帶來高度便利的同時,減
少科技帶來的風險,讓負面影響降到最小。

相關附件