SPEC ۰۵ · سامانههای داده
English Versionپاکسازی و یکسانسازی نام فارسی در مقیاس عملیاتی
مشخصات تولید برای پاکسازی، نمایهسازی و تطبیق مجموعههای نام و مکان فارسی در حجم بالا. اول نرمالسازی قطعی، سپس کلید مسدودسازی، امتیاز سبک، و فقط در صورت نیاز مدل معنایی برای باقیمانده.
۱. مقدمه و دامنه
مجموعههای فارسی بزرگ شکلهای سطحی متعدد از یک موجودیت واقعی دارند. نام شخص، سازمان و شهر با گونههای نویسه، نیمفاصله، ترتیب معکوس و القاب میآیند. تطبیق خام رشتهای هزینهٔ تکراری و اشتباه لینک ایجاد میکند.
این طرح خط لولهٔ تولید را توصیف میکند: پاکسازی قطعی، کلید مسدودسازی آوایی، امتیاز سبک، و مدل معنایی فقط برای جفتهای باقیمانده.
۲. لایههای نرمالسازی
قبل از هر تطبیق، شکل سطحی باید به شکل کانونی برسد.
معماری پایگاه داده هوشمند
معماری نسخه اول پایگاه داده هوشمند (Smart DB) با پردازش ۱۰۰ میلیون رکورد یکتا؛ طراحی ماتریس امتیازدهی پویا با دقت پیشبینی ۷۰ درصدی رفتار کاربر پیش از دریافت دادههای احراز هویت (KYC). یکپارچهسازی APIهای بلادرنگ اپراتورها جهت تحلیل تاریخچه رفتار کاربر، و جداسازی موفقیتآمیز تجمیع دادههای خارجی از هسته دیتابیس.
نویسه و یونیکد
یکسانسازی اشکال عربی و فارسی هممعنی، حذف اعراب غیرضروری، نرمالسازی فاصله.
نیمفاصله
جدا کردن یا یکسان کردن نیمفاصله و فاصله در پیشوند و پسوند نام.
القاب
جدا کردن و نگهداری القاب (آقا، خانم، دکتر و مانند آن) خارج از کلید تطبیق اصلی.
۳. کلید مسدودسازی
مسدودسازی نامزدها را قبل از امتیازدهی گران کم میکند.
- اسکلت آوایی: ادغام حروف همآوا در فارسی
- اثرانگشت توکن مرتبشده: ترتیب اجزای نام را خنثی میکند
- کلید ترکیبی استان و شهر پس از نرمالسازی مکان
خط لوله از دادهٔ خام تا پیوند با اطمینان بالا
۴. امتیازدهی سبک
روی جفتهای داخل بلوک، امتیاز سریع قبل از مدل سنگین.
نسبت توکن مرتب
شباهت مجموعهٔ اجزای نام پس از مرتبسازی.
ویرایش وزندار
فاصلهٔ ویرایش با وزن بیشتر روی اجزای اصلی نام.
۵. مدل معنایی برای باقیمانده
فقط جفتهایی که امتیاز قطعی نگرفتند به لایهٔ معنایی میروند.
نمایهٔ فشرده
بردار برای نام و بافت محدود مکان.
آستانهٔ بازبینی
صف رتبهبندیشده برای بازبینی انسانی کنترلشده.
همان شخص، شکلهای سطحی متفاوت
۶. مکان و شهر
نام شهر و استان نیز گونه و املای متعدد دارند. همان لایههای نرمالسازی و مسدودسازی روی مکان اعمال میشود تا پیوند مخاطب به منطقه پایدار بماند.
۷. یکپارچگی عملیاتی
خروجی غنیشده قبل از صف پیامک قرار میگیرد: وضعیت اپراتور، منطقه، و عدممزاحمت. شمارهٔ مرده یا مسدود نباید به درگاه برسد.
۸. معیارهای عملی
کاهش حجم ذخیره، افزایش سرعت استعلام، و کاهش هزینهٔ ارسال به شمارهٔ بیپاسخ از خروجیهای قابل اندازهگیری این خط لولهاند.
گونههای شهر به شکل کانونی
۹. نتیجه
- نرمالسازی قطعی قبل از هر مدل
- مسدودسازی آوایی و اثرانگشت برای کاهش نامزد
- امتیاز سبک؛ مدل معنایی فقط برای باقیمانده
- غنیسازی بالادست درگاه پیامک
هدف: بیشینهٔ پیوند خودکار با اطمینان بالا و مجموعهٔ باقیماندهٔ فشرده برای بازبینی.