Inventory number | IRN | Number of state registration | ||
---|---|---|---|---|
0323РК00389 | AP13068635-KC-23 | 0122РК00023 | ||
Document type | Terms of distribution | Availability of implementation | ||
Краткие сведения | Gratis | Number of implementation: 0 Not implemented |
||
Publications | ||||
Native publications: 1 | ||||
International publications: 5 | Publications Web of science: 1 | Publications Scopus: 3 | ||
Patents | Amount of funding | Code of the program | ||
0 | 22123716 | AP13068635 | ||
Name of work | ||||
Разработка системы перевода речи для двух малоресурсных языков через некоторый промежуточный язык | ||||
Type of work | Source of funding | Report authors | ||
Applied | Кожирбаев Жанибек Мамбеткаримович | |||
2
0
0
0
|
||||
Customer | МНВО РК | |||
Information on the executing organization | ||||
Short name of the ministry (establishment) | Нет | |||
Full name of the service recipient | ||||
Частное учреждение "National Laboratory Astana" | ||||
Abbreviated name of the service recipient | National Laboratory Astana | |||
Abstract | ||||
Объектом исследования является процесс перевода речи для двух малоресурсных языков на основе предварительно обученных моделей с использованием некоторого промежуточного языка. Зерттеу объектісі болып кейбір аралық тілді пайдалана отырып, алдын ала дайындалған модельдер негізінде ресурстары аз екі тілге сөйлеуді аудару процесі табылады. Целью проекта является разработка методов и алгоритмов перевода речи для двух малоресурсных языков, а именно казахского и татарского, на основе предварительно обученных моделей с использованием некоторого промежуточного языка. Жобаның мақсаты таңбаланбаған аудио және мәтіндік деректерге, сондай-ақ кейбір аралық тіл арқылы алдын ала дайындалған модельдерге негізделген екі аз ресурсты қазақ және татар тілдеріне сөйлеуді аударудың әдістері мен алгоритмдерін әзірлеу болып табылады. В данной работе используются методы машинного обучения, искусственные нейронные сети и методы для анализа и обработки аудио и текстовых данных. Бұл жұмыста машиналық оқыту әдістері, жасанды нейрондық желілер және аудио және мәтіндік деректерді талдау және өңдеу әдістері қолданылады. За отчетный период были собраны акустические и текстовые данные. Были собраны размеченные аудиоданные продолжительностью 640 часов для казахского языка. А также был собран речевой корпус татарского языка продолжительностью 80 часов. Параллельный корпус для казахско-русской языковой пары составляет 5400210 предложений (241818810 слов), а для русско-татарской языковой пары составляет 692359 предложений (22403424 слов). Далее, мы разработали предварительно обученные модели для текстовых данных на основе mBART. Исследования для языковых пар KZ-RU и RU-TA проводились с использованием набора данных, полученного в задании 2. Оценка BLEU, достигнутая для пары KZ-RU (наборы данных NLA и КазНУ), составила 47,60, а пара RU-TA дала оценку BLEU 31,65. А также были разработаны системы машинного перевода с казахского на промежуточный язык и с промежуточного языка на татарский язык. В качестве промежуточного языка был выбран русский язык. Также мы разработали модель и программный модуль системы сквозного перевода речи. Есепті кезеңде акустикалық және мәтіндік деректер жинақталды. Қазақ тілі бойынша 640 сағат таңбаланған аудио деректер жиналды. Сондай-ақ 80 сағаттық татар тілінің сөйлеу корпусы жинақталды. Қазақ-орыс тілі жұбы бойынша параллельді корпус 5400210 сөйлем (241818810 сөз), ал орыс-татар тілі жұбы үшін 692359 сөйлем (22403424 сөз). Әрі қарай, біз mBART негізінде мәтіндік деректер үшін алдын ала дайындалған модельдерді әзірледік. KZ-RU және RU-TA тіл жұптары үшін зерттеу 2-тапсырмада алынған деректер жиынтығын пайдалана отырып жүргізілді. KZ-RU жұбы (NLA және KazNU деректер жинақтары) үшін қол жеткізілген BLEU ұпайы 47,60 болды, ал RU-TA жұбы 31,65 BLEU ұпайын берді. Сондай-ақ қазақ тілінен аралық тілге, аралық тілден татар тіліне машиналық аударма жүйелері жасалды. Аралық тіл ретінде орыс тілі таңдалды. Сондай-ақ біз сөйлеуді басынан аяғына дейін аудару жүйесіне арналған модель мен бағдарламалық модуль әзірледік. Объем размеченных аудиоданных для казахского языка составил 640 часов, а для татарского языка 80 часов. Объем текстовых данных – более 1 млрд словоформ для казахского и татарского языков. Расходование средств финансирования производится согласно утвержденной смете. Таңбаланған аудиомәліметтердің көлемі қазақ тілі үшін 640 сағатты құраса, татар тілі үшін 80 сағатты құрады. Мәтіндік деректердің көлемі қазақ және татар тілдері үшін 1 миллиардтан астам сөз формасын құрады. Қаражат бекітілген бюджетке сәйкес жұмсалуда. Программный модуль сквозной системы речевого перевода доступен в виде демонстрационного веб-сервиса, обладающего функциональностью перевода речи, машинного перевода и синтеза речи. Опубликованы научные статьи в рецензируемые издания. Сөйлеуді басынан аяғына дейін аудару жүйесінің бағдарламалық модулі сөйлеуді аудару, машиналық аударма және сөйлеу синтезі функционалдығы бар демонстрациялық веб-қызмет ретінде қол жетімді. Рецензияланған басылымдарда ғылыми мақалалар жарияланды. Исследования, выполняемые в рамках настоящего научного проекта, обладают высокой экономической, социальной и индустриальной важностью, поскольку при дальнейшем изучении и внедрении результаты могут быть использованы для решения прикладных задач, связанных с разработкой систем перевода речи для родственных языков (узбекский, кыргызский) и других языков с ограниченными ресурсами. Осы ғылыми жоба аясында жүргізілген зерттеулердің жоғары экономикалық, әлеуметтік және өндірістік маңызы бар, өйткені одан әрі зерттеу және енгізу кезінде алынған нәтижелер туыстас тілдер (өзбек, қырғыз) және басқа да ресурстары шектеулі тілдер үшін сөйлеуді аудару жүйесін дамытуға қатысты қолданбалы мәселелерді шешу үшін пайдаланылуы мүмкін. Собранные акустические и текстовые данные, а также разработанные модули могут быть использованы в любой сфере, где востребована задача автоматического распознавания казахского языка и задача перевода казахского текста и речи. Жиналған акустикалық және мәтіндік деректер, сондай-ақ әзірленген модульдер қазақ тілін автоматты түрде тану және қазақ мәтіні мен сөйлеуін аудару міндеті сұранысқа ие кез келген салада қолданылуы мүмкін. |
||||
UDC indices | ||||
81'322; 004.934; 004.912; 004.93'1; 004.932 | ||||
International classifier codes | ||||
16.31.21; 28.23.15; | ||||
Key words in Russian | ||||
перевод речи; обработка речи; машинный перевод; каскадный перевод речи; сквозной перевод речи; | ||||
Key words in Kazakh | ||||
сөйлеу аудармасы; сөйлеуді өңдеу; машиналық аударма; каскадты сөйлеу аудармасы; сөйлеуді басынан аяғына дейін аудару; | ||||
Head of the organization | Сарбасов Дос Джурмаханбет | Ph.D. Biochemistry and Molecular Biology / Ph.D. | ||
Head of work | Кожирбаев Жанибек Мамбеткаримович | Phd / PhD |