The object of research, development or design (in Russian) : Методы и алгоритмы аугментации входных данных для модификации векторных вложений слов

The object of research, development or design (in Kazakh) : Сөздердің векторлық ендірілуін модификациялауға арналған кіріс деректерін көбейту әдістері мен алгоритмдері

Aim of work (in Russian) : изучить подходы для улучшения обобщающей силы моделями векторных вложений слов.

Aim of work (in Kazakh) : векторлық кірістіру модельдерінің жалпылау қабілетін жақсарту тәсілдерін зерттеу.

Методы исследования (на русском) : В исследовании будут использованы методы из следующих областей знаний: нейрокомпьютинг, теория графов, теория алгебры логики, теория функциональных систем и системный анализ, теория принятия решений, математическая лингвистика, фонетический и семантический анализ, теория вероятностей и математическая статистика, теория распознавания образов, технология разработки программного обеспечения. Также будут использованы современные достижения в области технологий искусственного интеллекта, как в теоретическом, так и в практическом плане, современные case средства проектирования и разработки программного обеспечения, технология объетно-ориентированного программирования, PM-технологии управления и анализа проекта.

Методы исследования (на казахском) : Зерттеу келесі білім салаларындағы әдістерді қолданады: нейрокомпьютер, графтар теориясы, логика алгебрасының теориясы, функционалдық жүйелер мен жүйелерді талдау теориясы, шешімдер теориясы, математикалық лингвистика, фонетикалық және семантикалық талдау, ықтималдықтар теориясы және математикалық статистика, үлгіні тану теориясы. , әзірлеу технологиясы бағдарламалық қамтамасыз ету. Сондай-ақ, жасанды интеллект технологиялары саласындағы теориялық және практикалық тұрғыда заманауи жетістіктер, кейстерді жобалау және бағдарламалық қамтамасыз етуді әзірлеудің заманауи құралдары, объектіге бағытталған бағдарламалау технологиясы, жобаларды басқару және талдау үшін PM -технологиялары қолданылады.

Obtained results and novelty (in Russian) : собран корпус текстов из открытых источников в соответствие со стандартами обучения современных моделей глубокого обучения, а именно 1) корпус покупательских рецензий на русском языке с онлайн магазина банка Kaspi. 2) корпус научных статей с открытых источников и open-access журналов, их метаданных и дополнительных сведений, необходимых для построения графа цитирований. 3) корпус научных статей расширен за счет объединения с общедоступными данными ACL Antology. Таким образом, настоящий корпус предназначен для тестирования методов аугментации данных на двух языках, а именно русском и английском. сделан обзор существующих методов обогащения текстовых данных экстралингвистической информацией, а также методов генерации синтетических текстовых данных. Результаты обзора опубликованы в отечественных и зарубежных научных изданиях. протестированы и созданы методы и алгоритмы, а также комплекс программ для обогащения корпусов дополнительной информацией. Действительно, был разработан алгоритм обогащения текстовых данных за счет нового функционала обучения Citation Prediction (CP) в модели Bidirectional Transformers for Language Understanding (BERT) на примере корпуса научных статей, а также были протестированы существующие методы аугументации текстовых данных на примере корпуса покупательских рецензий

Obtained results and novelty (in Kazakh) : қазіргі заманғы терең оқыту үлгілерін оқыту стандарттарына сәйкес ашық дереккөздерден алынған мәтіндер корпусы жиналды, атап айтқанда 1) Kaspi bank интернет-дүкенінен орыс тіліндегі тұтынушылардың пікірлері корпусы. 2) ашық көздерден және ашық журналдардан алынған ғылыми мақалалар корпусы, олардың метадеректері және дәйексөз графын құру үшін қажетті қосымша ақпарат. 3) ғылыми мақалалар корпусы жалпыға қолжетімді ACL Antology деректерімен біріктіру арқылы кеңейтілді. Осылайша, бұл корпус екі тілде, атап айтқанда орыс және ағылшын тілдерінде деректерді кеңейту әдістерін тестілеуге арналған. Мәтіндік деректерді экстралингвистикалық ақпаратпен байытудың қолданыстағы әдістеріне, сондай-ақ синтетикалық мәтіндік мәліметтерді қалыптастыру әдістеріне шолу жасалды. Шолу нәтижелері отандық және шетелдік ғылыми журналдарда жарияланды. әдістер мен алгоритмдер сынақтан өтіп, құрылды, сонымен қатар корпусты қосымша ақпаратпен байытуға арналған бағдарламалар кешені. Шынында да, мәтіндік деректерді байыту алгоритмі ғылыми мақалалар корпусын мысал ретінде пайдалана отырып, тілді түсінуге Bidirectional Transformers for Language Understanding (BERT) үлгісіндегі жаңа оқу функционалдық дәйексөзді болжау Citation Prediction (CP) және мәтіндік деректерді кеңейтудің қолданыстағы әдістерін қолдану арқылы әзірленді. Тұтынушылардың пікірлері корпусының мысалын қолдану арқылы сыналған.

The main constructive and technical economic indicators (in Russian) : Новый подход для повышения качества обучения нейросетевых языковых моделей для научных текстов на английском языке, математические модели, алгоритмы и методы для автоматического.

The main constructive and technical economic indicators (in Kazakh) : Ағылшын тіліндегі ғылыми мәтіндер үшін нейрондық желілердің тілдік модельдерін, математикалық модельдерді, мәтінді автоматты өңдеудің алгоритмдерін және әдістерін оқыту сапасын арттырудың жаңа тәсілі.

Level of implementation (in Russian) : на данном этапе проекта внедрения не предусмотрено

Level of implementation (in Kazakh) : жобаны іске асырудың осы кезеңінде еңгізу қарастырылмаған

Efficiency (in Russian) : Настоящий проект проводится эффективно на высоком научно-организационном уровне, чему свидетельствует перевыполнение заявленного плана по публикационной активности.

Efficiency (in Kazakh) : Бұл жоба жоғары ғылыми-ұйымдастырушылық деңгейде нәтижелі жүзеге асырылып жатқанын жариялау жұмыстарының белгіленген жоспарының артығымен орындалғаны дәлелдейді.

Field of application (in Russian) : корпус покупательских рецензий можно будет применить для решения задач обработки естественного языка в приложении к задаче анализа тональности, корпус научных публикаций можно применить для разработки решений современных проблем наукометрии.

Field of application (in Kazakh) : сатып алушылардың шолуларының корпусын табиғи тілді өңдеу мәселелерін шешу үшін тоналды талдау мәселесінің қосымшасында қолдануға болады, ғылыми басылымдар корпусын қазіргі ғылымометрия мәселелерінің шешімдерін жасау үшін қолдануға болады.