2025/02/11 by Alireza Hosseinzadeh, Hosseinzadeh, Alireza, Mehdi Yaghoobi Avval Riabi +1
Mathematics · Computer Science · #Random Matrices and Applications #semigroups and automata theory #Authorship Attribution and Profiling
paper · doi:10.82257/jeis.2025.1199282
درتمام سطوح جامعه سیستمهایی معرفی شده اند که با انتقال، ذخیرهسازی و پردازش اطلاعات سروکار دارند. در حقیقت جامعهای که ما در آن زندگی میکنیم جامعه اطلاعاتی نامیده میشود. بنابراین منطقی بنظر میرسد که بخواهیم بدانیم اطلاع را چگونه میتوان تعریف و اندازهگیری نمود. برای اولین بار کلود شانون (1948) در مقاله معروفش تحت عنوان " نظریه ریاضی ارتباطات" مفاهیم اطلاع و احتمال را با یکدیگر پیوند داد و یک مدل ریاضی مبتنی بر احتمال برای ارزیابی میزان اطلاع نهفته در توزیع احتمال یک متغیر تصادفی ارائه داد. در نظریه ارتباطات تا قبل از 1948 چنین تصور میشد که افزایش نرخ ارسال اطلاعات در یک کانال ارتباطی، احتمال بروز خطا را افزایش میدهد. اما شانون ثابت نمود که تا وقتی نرخ ارسال اطلاعات از ظرفیت کانال ارتباطی کمتر باشد این ادعا درست نیست. به دلیل اهمیت این عرصه مطالعاتی، تاکنون تعمیمهای متعددی برای آنتروپی شانون توسط پژوهشگران ارائه شده است. هر کدام از این تعمیمها دارای خواصی هستند که آنها را به کاربردهای وسیعی در زمینههای مختلف هدایت میکند. آنتروپی رنی به عنوان یک تعمیم تک پارامتری برای آنتروپی شانون توسط آلفرد رنی در سال1961 معرفی شد. این اندازه اطلاع تعمیم یافته خواص مشابهی با آنتروپی شانون دارد. در مقاله حاضر ابتدا آنتروپی شانون و رنی و برخی ویژگیهای مهم آنها را مرور میکنیم. سپس یک تعمیم دو پارامتری برای آنتروپی رنی با میانگین جدید طول کدواژه مربوطه، که توسط بهات و دیگران (2023) مطرح شده، و همچنین ویژگیهای مهم آن را مورد بررسی قرار میدهیم. به ویژه برای مقادیری از پارامترها کارایی کد هافمن، نسبت به این آنتروپی تعمیم یافته و میانگین جدید طول کدواژه نظیر آن، را مورد ارزیابی قرار میدهیم.