آنتروپی فون نویمان

1.     یادگیری عمیق تر 

آنتروپی شانون میزان عدم قطعیت مرتبط با یک توزیع احتمالات کلاسیکی را اندازه‌گیری می‌کند. Von Neumann آنتروپی یک حالت کوانتومی  را بدین شکل فرمول‌بندی می‌کند:

در این فرمول‌بندی، لگاریتم‌ها در مبنای 2 می‌باشند. اگر  ویژه‌مقادیر حالت  باشند، بنابراین تعریف Von Neumann  را می‌توان بازنویسی کرد:

که در اینجا همانند آنتروپی شانون  در نظر گرفته شده است. برای محاسبات معمولا معادله آخر به کار می‌رود. برای مثال، عملگر چگالی کاملا آمیخته در فضای d بعدی، I\d، آنتروپی  دارد.

2.     اصول کلیدی

آنتروپی Von Neumann ویژگی‌های جالب و کاربردی دارد:

1.      آنتروپی غیر صفر می‌باشد. آنتروپی 0 می‌باشد، اگر و تنها اگر حالت، خالص باشد.

2.    در فضای هیلبرت d بعدی آنتروپی حداکثر  است. آنتروپی برابر با  است اگر و تنها اگر سیستم در حالت کاملا آمیخته I/d باشد.

3.    فرض کنید که یک سیستم ترکیبی AB در یک حالت خالص قرار دارد. بنابراین   است.

4.      فرض کنید که  احتمالات متناظر با حالات  هستند که یک زیرفضای متعامد را پشتیبانی می‌کنند. بنابراین

5.      Joint entropy theorem:

فرض کنید که  احتمالات هستند، |i> حالات متعامد برای یک سیستم A هستند و  هر مجموعه‌ای از عملگرهای چگالی برای سیستم دیگر B است. بنابراین