ایمنی هوش مصنوعی - ویکی‌پدیا، دانشنامهٔ آزاد

برخی از راه‌هایی که یک هوش مصنوعی پیشرفته می‌تواند از طریق آن برای به دست آوردن قدرت بیشتر تلاش کند. ممکن است رفتارهای قدرت جویانه از خود نشان دهد زیرا قدرت برای تحقق هر هدفی مورد نیاز است.

ایمنی هوش مصنوعی یک زمینه بین رشته‌ای است که با پیشگیری از سوء استفاده، حوادث یا سایر پیامدهای مضری که می‌تواند از سیستم‌های هوش مصنوعی (AI) ایجاد شود، مرتبط است. این موضوع شامل اصول اخلاق ماشین می‌شود که هدف آن اخلاقی و سودمند ساختن سیستم‌های هوش مصنوعی است و مشکلات‌های فنی از جمله سیستم‌های نظارت بر خطرات و قابل اعتماد ساختن آنها می‌شود.. فراتر از تحقیقات، ایجاد هنجارها و سیاست‌هایی که ایمنی هوش مصنوعی را ارتقا می‌دهد از اهداف ایمنی هوش مصنوعی است.

منابع[ویرایش]