Using Transformer-based Neural Models for Converting Informal to Formal Text in Persian

Document Type : .

Authors

1 Computer Engineering Department, Amirkabir University of Technology

2 Computer Engineering Department, Amirkabir University ofTechnology

Abstract

در دنیای امروز شاهد رشد تولید داده‌‎های مختلف از جمله داده‌های متنی هستیم و همواره حجم زیادی از داده‎‌های متنی به روش‌های مختلف به خصوص در شبکه‌‎های اجتماعی تولید می‎‌شود. ولی این متن‌‎ها غالباً غیررسمی و دارای خطاهای بسیاری هستند که باعث می‌‎شود امکان استفاده از آن‏ها در بسیاری از پردازش‎‌های زبان طبیعی وجود نداشته باشد. در این مقاله به تبدیل متن محاوره‌ای به متن رسمی در زبان فارسی پرداخته‌شده است. برای این منظور دو مدل مختلف براساس مدل کدگذار-کدگشا و مدل مبدل که از به‌روزترین مدل‌های دنباله-به-دنباله هستند پیاده‌سازی شده‌اند. در کنار استفاده از مدل‌های شبکه عصبی، مجموعه‌ای از قواعد در تبدیل متن محاوره‌ای به رسمی فراهم شده‌اند و تأثیر استفاده از این قواعد در کنار هر یک از دو مدل بررسی شده است. در انتها نتایج مدل‌های گفته شده مقایسه شده‌اند که در بهترین حالت این نتایج به دست آمده به دقت ۷۰.۷ درصد در معیار بلوی ارتقاء یافته رسیده‌اند.

Keywords