網路高風險訊息即時示警過濾
為加強網路安全，防範詐騙、假新聞、虛假商業訊息或色情、暴力內容等網路問題，開發一款基於大型語言模型（LLM）的瀏覽器擴充功能（插件），以實時識別高風險訊息，保護用戶免受高風險信訊息的侵害。
競賽細節
題目敘述
(1) 題目背景 (議題緣由和動機)
隨著網路社會的發展，詐騙、假新聞、虛假商業訊息或色情、暴力內容在網路平台上泛濫成災，特別是對於高風險訊息辨識能力較低的兒少或網路新手來說，這些問題尤其嚴重。目前的防範措施多為事後處理，如用戶報告後的內容封鎖，此方式效率低下，且無法從根本上預防問題發生。
(2) 議題單位欲解決之痛點(請與所列「期望成果需求」扣合，如：無法掌握客戶喜好的商品、空車率一直沒有改善等)
1. 被動防範：當前多數解決方案為事後處理，無法有效預防。
2. 目標群體保護不足：兒少或網路新手缺乏有效的自我保護意識與工具。
3. 內容情境多樣：網絡上的高風險訊息內容情境繁多，且與時俱進，不易一一識別與過濾。
(3) 議題單位可提供的資料類型和內容說明
提供網路謠言或詐騙相關的案例查證報導。
(4) 期望達成的AI數據應用方式 (如：需求預測模型、自動化工具等)
1. 主動預防： 利用LLM實現對疑似惡意訊息的即時識別或屏蔽，轉變為主動防範。
2. 保護易受害群體：為兒少或網路新手提供一個更安全的網路環境。
3. 適應不同內容情境：能夠識別不同內容情境的高風險訊息，並應用在不同網路來源。
(5) 本題目是否有和其他數據源混搭的可行性
解題團隊除了運用本題釋出的數據資料外，可自行運用open data、爬取網路資訊或自帶資料方式，混搭資料解題。
(6) 技術完成後的使用對象
所有網路用戶，特別是兒少或網路新手等易受害群體。
(7) 成果應用方式及情境
開發的瀏覽器擴充功能將與用戶的日常瀏覽活動無縫結合，當用戶上網瀏覽網路訊息時，插件自動運行，對發布的內容進行實時分析，識別或屏蔽那些被判定為高風險訊息的內容，從而保護用戶免遭侵害。
資料型態
1個資料集 (csv檔)
資料集整備度與細節說明
資料及內無個資或機敏性資料，為網路上公開之文字資料，另提供原始網址以供參考。
期望成果需求
團隊解方可從以下3項高風險訊息判斷的處理角度，擇一提出解方：
1. 判斷內容錯誤不實或編造的事件報導或產品宣傳文章：例如地震後新北市停班停課的錯誤消息，或為了特定目的而刻意混淆事實的不實內容。
2. 偵測散佈罐頭訊息的臉書假帳號：部分社群媒體上的不實內容多由假帳號發布，且散佈的訊息內容多為罐頭訊息，偵測此類帳號亦可作為高風險訊息判斷的依據之一。
3. 判斷傳播色情或暴力內容的文章：兒少或網路新手等易受害群體對於網路訊息內容的敏感性較低，警示或屏蔽傳播色情或暴力內容的網路文章，可有效降低該群體受害的機率。
解題團隊所開發之解方相關技術，議題單位具應用優先使用權。
可提供之解題資源
議題或數據相關諮詢窗口一人，可協助解題團隊理解使用情境及數據型態，或協助尋求相關專業的議題單位團隊成員提供諮詢建議。
額外獎勵誘因
經議題單位評估，若解題團隊提出之解方實際落地應用可行性高，將與解題團隊討論技術移轉相關權利義務。
出題單位
典通股份有限公司
單位(公司)簡介
典通（DSIGroup）為國內唯一同時擁有大小數據資料蒐集平台、掌握大小數據資料分析技術與預測技術、通過經濟部AI能量登錄、並擁有超過60個產業的數據解決方案服務落地經驗的顧問公司，以厚實的數據蒐集、分析及演算法開發技術為基礎，協助各行各業推動數位轉型。2021年2月接受聚碩科技SYSAGE(股號：6112)投資，成為佳世達Qisda(股號：2352)大艦隊的一員。
除了調查研究、行銷研究、大數據分析及AI演算法開發等領域持續深耕外，DSIGroup亦提供企業數位轉型所需的完整數據解決方案，協助企業規劃、執行或優化「使用者體驗設計」、「服務流程再設計」、「創新商業模式設計」、「智慧技術的開發與導入」。
其他備註
無
* 題目因實際數據改變或其他不可抗力之事由，出題企業保有修改、變更或取消題目之權利。