برآورد کننده های غیر پارامتری آنتروپی براساس رگرسیون خطی ساده

قیمت: 43,000 تومان

دانلود رایگان مقاله

خرید ترجمه مقاله

عنوان فارسی

برآورد کننده های غیر پارامتری آنتروپی براساس رگرسیون خطی ساده

عنوان لاتین

Non-parametric entropy estimators based on simple linear regression

برآورد کننده های مربوط به آنتروپی دیفرانسیلی مطرح شده اند. برآورد کننده ها براساس بسط مرتبه دوم جرم احتمالی اطراف نقطه ی بررسی نسبت به فاصله از نقطه می باشند. رگرسیون ساده ی خطی برای تخمین مقادیر تابع چگالی و مشتق دوم آن در یک نقطه مورد استفاده قرار گرفته است. بعد از تخمین مقادیر تابع چگالی احتمالی در هر یک از نقاط نمونه برداری ارائه شده، با گرفتن میانگین تجربی لگاریتم منفی تخمین های چگالی، دو برآورد کننده ی آنتروپی بدست می آیند. برآورد کننده های دیگر آنتروپی که آنتروپی را بوسیله ی رگرسیون خطی تخمین می زنند، نیز مطرح شده اند. از طریق آزمایش های عددی نشان داده شده است که چهار برآورد کننده ی پیشنهادی برای توزیع های مختلف احتمالی به خوبی عمل می کنند.

Estimators for differential entropy are proposed. The estimators are based on the second order expansion of the probability mass around the inspection point with respect to the distance from the point. Simple linear regression is utilized to estimate the values of density function and its second derivative at a point. After estimating the values of the probability density function at each of the given sample points, by taking the empirical average of the negative logarithm of the density estimates, two entropy estimators are derived. Other entropy estimators which directly estimate entropy by linear regression, are also proposed. The proposed four estimators are shown to perform well through numerical experiments for various probability distributions.