題目敘述
(1) 題目背景與重要性:
隨著行動通訊發展,文字和語音成為溝通利器,然而以手語為語言的聽語障者,因為語言不同,除了無法與聽人直接以手語溝通,也無法發出可供辨識的口語語音轉換文字,致日常溝通受阻。
國際身心障礙者公約(CRPD)強調,確保所有身心障礙者充分及平等享有所有人權及基本自由,並促進對身心障礙者固有尊嚴之尊重,希望透過AI提供聽語障者更即時、便利、有效的溝通。
(2)問題情境與痛點(Pain point):
聽人可能對手語有興趣,也可能在社團、社區大學等處學手語,但相較於其他口語語言仍非常弱勢。如果能以辨識學生手部關鍵點,將之與老師的手部關鍵點進行比對,有效輔助手語老師的教學,將能加快聽人的手語學習速度,提高手語普及度,降低聽語障者日常溝通的困難度。
(2) 預期透過AI達到的目的與利益點(Gain):
透過單詞片段檢測手部關節並標註關鍵點,發展軟體並應用於行動裝置,使聽人與聽語障者能更容易學習手語。
(3) 技術完成後的使用對象:
聽語障者與聽人。
(4) 成果運用方式等內容:
開發手機APP或網頁,提供手語教學輔助使用。
資料型態
(1)『臺灣親子手語數位學習網』網站內主題學習之單詞詞彙手語影片
https://sites.google.com/view/babysignlanguagetaiwan/%E9%96%8B%E5%A7%8B?authuser=0
378個主題篇手語辭彙影片(MP4格式)
(2)德國佛萊堡大學 (University of Freiburg) 開發的 FreiHAND Dataset ( arxiv : https://arxiv.org/pdf/1909.04349.pdf )
原始手部圖片共 32560 張,及利用這些原始圖片進行背景填補、色調變化的延伸照片共 97680 張。
如下圖所示
資料集整備度與細節說明
1. 『臺灣親子手語數位學習網』主題學習網站共有378個實用手語詞彙影片。
2. 德國佛萊堡大學 (University of Freiburg) 開發的 FreiHAND Dataset ( arxiv : https://arxiv.org/pdf/1909.04349.pdf )
原始手部圖片共 32560 張,及利用這些原始圖片進行背景填補、色調變化的延伸照片共 97680 張。
3. 手語翻譯協會亦可提供聽語障者與聽人手語使用者,可另外依照解題斷對需求協助錄製單詞手語影片供測試偵測率判斷,且可增加手語關鍵點資料庫,提高詞彙判讀正確率。
期望成果需求
(1) 關鍵點檢測均分及誤差小於0.2
(2) 藉由關鍵點檢測進行單詞判斷之準確度,單詞判讀率75%以上
(3) 供手語教學輔助使用之手機APP或網頁
可提供之解題資源
(1)美國的AI手語翻譯服務網站( https://slait.ai/#usecases)
(2)手語翻譯協會之聽語障者與手語翻譯員
(3) 可參考使用其他網站資源:台灣手語新詞彙(https://newtsl.taslifamily.org/index)、常用手語詞典、台灣手語線上詞點之學習資源資料。
額外獎勵誘因
無
出題單位
社團法人台灣手語翻譯協會
單位(公司)簡介
手語翻譯員是聽障朋友對外溝通很重要的『輔具』,在許多場合以手語和口語交替翻譯協助聽障者溝通與吸收資訊。早期手語翻譯多半被認為是做愛心的志工角色,自開辦手語翻譯技能檢定之後始朝向專業化發展,民國106年社團法人台灣手語翻譯協會成立,會員包含手語翻譯員、聾人(聽語障者)與社會各界人士。手語翻譯協會的目標是成為聽障與聽人溝通橋樑,提供手語資源給更多身障家庭與機構,維護聽語障者公平參與社會的權利。
官網:http://taslifamily.org/
臉書:https://www.facebook.com/tasli2017
其他備註
無