وقتی هوش مصنوعی خودش را ارتقا می‌دهد؛ هشداری که آنتروپیک جدی گرفته است

دیگر صرفاً ابزارهایی برای کمک به برنامه‌نویسان نیستند. آن‌ها به‌طور فزاینده‌ای در فرآیند توسعه نسل‌های بعدی هوش مصنوعی نقش ایفا می‌کنند و بخشی از کاری را که زمانی فقط توسط انسان انجام می‌شد، بر عهده گرفته‌اند.

به گفته این شرکت، امروز بیش از ۸۰ درصد کدی که وارد محصولات اصلی آنتروپیک می‌شود توسط Claude نوشته شده است. نتیجه این تغییر چشمگیر بوده؛ مهندسان شرکت اکنون چندین برابر بیشتر از گذشته خروجی تولید می‌کنند و بسیاری از کارهایی که روزها زمان نیاز داشت، در چند ساعت انجام می‌شود.

اما موضوع فقط افزایش سرعت نیست.

نگرانی اصلی آنتروپیک به مفهومی برمی‌گردد که «بهبود بازگشتی» یا Recursive Self-Improvement نام دارد؛ وضعیتی که در آن یک سیستم هوش مصنوعی بتواند نسخه‌ای بهتر از خودش را طراحی و توسعه دهد. اگر چنین چرخه‌ای شکل بگیرد، هر نسل از مدل‌ها قادر خواهد بود نسل بعدی را سریع‌تر و کارآمدتر بسازد و این روند به‌صورت مداوم تکرار شود.

در حال حاضر هنوز به آن نقطه نرسیده‌ایم. با این حال آنتروپیک معتقد است نشانه‌های اولیه آن کاملاً قابل مشاهده است. مدل‌های جدید نه‌تنها کدنویسی می‌کنند، بلکه می‌توانند آزمایش اجرا کنند، خطاها را پیدا کنند، راه‌حل‌های مختلف را بررسی کنند و حتی برای رسیدن به یک هدف مشخص، مسیرهای پژوهشی تازه پیشنهاد دهند.

بر اساس داده‌های منتشرشده، توانایی هوش مصنوعی در انجام وظایف پیچیده با سرعت قابل‌توجهی در حال رشد است. وظایفی که چند سال پیش تنها چند دقیقه زمان می‌بردند، اکنون به پروژه‌هایی چندساعته و حتی چندین‌ساعته تبدیل شده‌اند که مدل‌ها می‌توانند آن‌ها را بدون دخالت مستقیم انسان مدیریت کنند. اگر این روند ادامه پیدا کند، در آینده‌ای نه‌چندان دور سیستم‌های هوش مصنوعی قادر خواهند بود پروژه‌هایی را انجام دهند که تکمیل آن‌ها برای یک متخصص انسانی چندین روز یا حتی چند هفته زمان نیاز دارد.

آنتروپیک می‌گوید برتری انسان هنوز از بین نرفته است. انسان‌ها همچنان در درک تصویر بزرگ، تعیین اهداف و تصمیم‌گیری‌های کلان عملکرد بهتری دارند. اما فاصله در بسیاری از وظایف فنی و مهندسی به‌سرعت در حال کاهش است و برخی کارکنان این شرکت معتقدند کیفیت کد تولیدشده توسط Claude به سطح برنامه‌نویسان حرفه‌ای نزدیک شده است.

همین موضوع باعث شده بحث قدیمی «از دست رفتن کنترل» دوباره مطرح شود. اگر روزی هوش مصنوعی بتواند تقریباً تمام مراحل ساخت جانشین خود را برعهده بگیرد، نظارت، کنترل و همسو نگه‌داشتن این سیستم‌ها با اهداف انسانی به چالشی بسیار بزرگ‌تر از امروز تبدیل خواهد شد. آنتروپیک تأکید می‌کند که این سناریو هنوز محقق نشده، اما احتمال وقوع آن بیش از چیزی است که بسیاری از دولت‌ها و نهادها تصور می‌کنند.

به همین دلیل این شرکت پیشنهاد می‌کند که صنعت هوش مصنوعی از هم‌اکنون درباره سازوکارهای نظارتی، هماهنگی بین شرکت‌ها و حتی امکان کاهش موقت سرعت توسعه مدل‌های بسیار پیشرفته فکر کند. از نگاه آنتروپیک، اگر روزی هوش مصنوعی واقعاً بتواند خودش را ارتقا دهد، فرصت تصمیم‌گیری درباره نحوه مدیریت آن بسیار محدود خواهد بود.

شاید مهم‌ترین نکته گزارش این باشد که آینده‌ای که زمانی شبیه داستان‌های علمی‌تخیلی به نظر می‌رسید، دیگر آن‌قدر دور نیست. هنوز انسان‌ها هدایت این فناوری را در دست دارند، اما هر روز سهم بیشتری از فرآیند توسعه به خود هوش مصنوعی سپرده می‌شود. پرسش اصلی دیگر این نیست که آیا هوش مصنوعی در ساخت نسل بعدی خود نقش خواهد داشت یا نه؛ بلکه این است که وقتی این اتفاق رخ دهد، انسان‌ها تا چه اندازه قادر به کنترل مسیر آن خواهند بود.