研究人員推手語(yǔ)轉(zhuǎn)文字AI翻譯器 幫助聽(tīng)障人士正常交流
IT之家 5 月 25 日消息,巴塞羅那超級(jí)計(jì)算中心(BSC)和加泰羅尼亞理工大學(xué)(UPC)的研究人員開(kāi)發(fā)了一種將手語(yǔ)翻譯成文本的新工具,以給予聽(tīng)覺(jué)障礙者更多包容性和可及性。該工具利用人工智能技術(shù),包括自我注意機(jī)制和更快的吞吐量,以更準(zhǔn)確地理解手語(yǔ)者的姿勢(shì)并產(chǎn)生準(zhǔn)確的文字轉(zhuǎn)寫(xiě)。
(資料圖片)
圖源 Arxiv
該工具基于 How2Sign 數(shù)據(jù)集,這是一個(gè)公開(kāi)可用的大規(guī)模、多模態(tài)和多視圖數(shù)據(jù)集,包括 80 小時(shí)的美國(guó)手語(yǔ)教學(xué)視頻和相應(yīng)的英語(yǔ)文字記錄。該數(shù)據(jù)集由 BSC 和 UPC 發(fā)布,用于訓(xùn)練模型,以便將手語(yǔ)轉(zhuǎn)換為文本。研究人員使用膨脹式三維網(wǎng)絡(luò)(I3D)對(duì)數(shù)據(jù)進(jìn)行預(yù)處理,這是一種視頻提取方法,可以對(duì)視頻進(jìn)行三維過(guò)濾,直接從視頻中獲取時(shí)空信息。并使用了一個(gè)轉(zhuǎn)化器式的機(jī)器學(xué)習(xí)模型,與 ChatGPT 等其他人工智能工具背后的模型類(lèi)似。
圖源論文《Sign Language Translation from Instructional Videos》
該研究的主要作者 Laia Tarrés 表示:“我們開(kāi)發(fā)的新工具是以前發(fā)布的名為 How2Sign 的出版物的延伸,在那里,訓(xùn)練模型所需的數(shù)據(jù)被公布。利用這些已經(jīng)可用的數(shù)據(jù),我們開(kāi)發(fā)了一個(gè)新的開(kāi)源軟件,能夠?qū)W習(xí)視頻和文本之間的映射。”
圖源 Pexels
研究人員發(fā)現(xiàn),他們的模型能夠產(chǎn)生有意義的翻譯,但仍存在改進(jìn)的空間。該工具尚處于實(shí)驗(yàn)階段,研究人員將繼續(xù)努力,以創(chuàng)建一個(gè)能夠與無(wú)聽(tīng)力損失者使用的技術(shù)相媲美的工具。
Laia Tarrés 同時(shí)表示:“這個(gè)自動(dòng)手語(yǔ)翻譯的開(kāi)放工具是對(duì)關(guān)注無(wú)障礙環(huán)境的科學(xué)界的寶貴貢獻(xiàn),它的發(fā)表代表了向?yàn)樗腥藙?chuàng)造更具包容性和無(wú)障礙的技術(shù)邁出的重要一步。”
關(guān)鍵詞:
2023-05-26 08:47:25
2023-05-26 08:00:22
2023-05-26 06:55:11
2023-05-26 06:53:41
2023-05-26 06:51:24
2023-05-26 06:42:57
2023-05-26 06:36:02
2023-05-26 06:35:41
2023-05-26 06:13:42
2023-05-26 04:53:18
2023-05-26 03:56:57
2023-05-26 03:06:36
2023-05-26 02:06:11
2023-05-26 01:42:50
2023-05-26 00:50:27
2023-05-26 00:29:17
2023-05-25 23:54:12
2023-05-25 22:58:41
2023-05-25 22:52:48
2023-05-25 22:47:08
2023-05-25 21:27:21
2023-05-25 21:01:05
2023-05-25 20:15:41
2023-05-25 19:00:17
2023-05-25 18:56:53
2023-05-25 18:52:45
2023-05-25 18:50:32
2023-05-25 18:47:32
2023-05-25 18:47:13
2023-05-25 18:42:17
2023-05-25 18:39:05
2023-05-25 18:37:01
2023-05-25 17:53:55
2023-05-25 17:48:04
2023-05-25 17:46:15
2023-05-25 17:45:14
2023-05-25 17:42:39
2023-05-25 17:33:51
2023-05-25 17:31:27
2023-05-25 16:57:27
2023-05-25 16:54:54
2023-05-25 16:49:49
2023-05-25 16:34:19
2023-05-25 16:02:42
2023-05-25 16:00:31
2023-05-25 15:45:01
2023-05-25 15:42:29
2023-05-25 15:40:25
2023-05-25 15:39:55
2023-05-25 15:35:22
2023-05-25 15:09:25
2023-05-25 14:51:25
2023-05-25 14:44:24
2023-05-25 14:41:58
2023-05-25 13:56:47
2023-05-25 13:54:03
2023-05-25 13:51:59
2023-05-25 13:51:05
2023-05-25 13:51:00
2023-05-25 13:50:16
2023-05-25 13:49:46
2023-05-25 13:49:31
2023-05-25 13:39:13
2023-05-25 13:35:46
2023-05-25 13:35:37
2023-05-25 13:22:51
2023-05-25 12:47:04
2023-05-25 12:40:18
2023-05-25 12:39:59
2023-05-25 12:39:34
2023-05-25 12:36:48
2023-05-25 12:08:12
2023-05-25 11:53:57
2023-05-25 11:51:12
2023-05-25 11:46:30
2023-05-25 11:41:38
2023-05-25 11:20:48
2023-05-25 10:47:03
2023-05-25 10:42:01
2023-05-25 10:33:54
2023-05-25 10:17:45
2023-05-25 09:29:34
2023-05-25 08:52:18
2023-05-25 08:49:40
2023-05-25 08:49:17
2023-05-25 08:49:11
2023-05-25 08:46:34
2023-05-25 08:44:56
2023-05-25 08:41:00
2023-05-25 08:36:45
2023-05-25 08:29:18
2023-05-25 07:37:19
2023-05-25 07:04:04
2023-05-25 06:57:44
2023-05-25 06:56:52
2023-05-25 06:44:20
2023-05-25 06:41:22
2023-05-25 06:35:22
2023-05-25 05:43:58
相關(guān)新聞