المحاذاة الفائقة
بحث كيف تظل أنظمة الذكاء الاصطناعي شديدة القدرة متوافقة مع النوايا البشرية.
متاح للمستخدمين الموثوقين فقط
المحاذاة الفائقة برنامج بحثي مقيّد داخل Mecha ML يركز على طرق محاذاة أنظمة الذكاء الاصطناعي عالية القدرة. يستكشف العمل الإشراف القابل للتوسع، والتقييم، وقابلية التفسير، والمتانة، وتقنيات التحكم للمساعدة في إبقاء الأنظمة المتقدمة مفهومة ومتوافقة مع النوايا البشرية.
أبرز الميزات
إشراف قابل للتوسع
دراسة طرق إشراف تظل مفيدة مع ارتفاع قدرات النماذج.
تقييمات المحاذاة
تطوير تقييمات للمتانة والسلوك الخادع وسوء تعميم الأهداف وفشل التحكم.
قابلية التفسير والتحكم
استكشاف أدوات لفهم سلوك النماذج وتقييد الأفعال عالية المخاطر.