AGI Concepts AI Reasoning AI Planning Reinforcement Learning World Models Self-Improving Agents AI Alignment Constitutional AI Memory Architectures Cognitive Architectures
33 posts
در حوزه هوش مصنوعی، ادراک اغلب به عنوان مانع اصلی در نظر گرفته می‌شود. با این حال، برای اینکه یک سیستم هوش مصنوعی واقعاً خودمختار باشد—گامی کلیدی به سوی هوش مصنوعی عمومی (AGI)—باید فراتر از ادراک عمل کند و برنامه‌ریزی نماید.
منظر مدل‌های زبان بزرگ (LLMs) در سال گذشته به شدت تغییر کرده است. آنچه که زمانی تولید متن احتمالاتی بود، به حوزه‌ای تبدیل شده که در آن مدل‌ها قابلیت‌هایی را نشان می‌دهند که صراحتاً برای آن‌ها برنامه‌ریزی یا نظارت نشده است. یکی از عمیق‌ترین این قابلیت‌ها، استدلال ظهوری است که...
یادگیری تقویتی (RL) یکی از امیدوارکننده‌ترین مسیرها به سوی هوش عمومی مصنوعی (AGI) است. برخلاف یادگیری نظارت‌شده، که مدل‌ها از مجموعه‌داده‌های ثابت و برچسب‌دار یاد می‌گیرند، عامل‌های RL از طریق تعامل یاد می‌گیرند. آن‌ها محیط را کاوش کرده، اقدام انجام می‌دهند و بازخورد...
در آستانه هوش مصنوعی عمومی (AGI)، سوال حیاتی از «آیا می‌توانیم آن را بسازیم؟» به «آیا می‌توانیم آن را کنترل کنیم؟» تغییر می‌یابد. همسویی هوش مصنوعی حوزه‌ای است که تضمین می‌کند سیستم‌های هوش مصنوعی اهدافی را دنبال کنند و رفتاری داشته باشند که با ارزش‌های انسانی سازگار باشد...
در حالی که ما بر لبه پرتگاه هوش عمومی مصنوعی (AGI) ایستاده‌ایم، روایت از تشخیص الگوهای ساده به استدلال واقعی تغییر یافته است. عصر مدل‌های زبانی بزرگ تک‌وجهی در حال تحول به آینده‌ای چندوجهی است که در آن سیستم‌ها باید همزمان تصاویر، صوت و متن را تفسیر کنند.
مسیر رسیدن به هوش عمومی مصنوعی (AGI) تنها در مقیاس‌بندی پارامترهای مدل نیست؛ بلکه اساساً درباره تغییر نحوه پردازش اطلاعات توسط مدل‌هاست. برای سال‌ها، مدل‌های زبانی بزرگ (LLMs) عمدتاً بر اساس تفکر سیستم ۱ عمل می‌کردند...
با نزدیک شدن به ساخت هوش مصنوعی عمومی (AGI)، مسئله هم‌راستایی همچنان بزرگ‌ترین مانع ماست. ما می‌توانیم مدل‌ها را برای تولید کد یا پیش‌نویس مقالات آموزش دهیم، اما اطمینان از اینکه آن‌ها به شیوه‌ای واقعاً مفید، مقاوم و وفادار به ارزش‌های انسانی عمل می‌کنند، چالش مهندسی بسیار پیچیده‌تری است...