وقتی هوش مصنوعی خودش را می‌سازد

نردبانی که انسان دارد از آن پایین می‌آید

Anthropic یک تصویر ساده اما نگران‌کننده ارائه می‌دهد. فرآیند ساخت هوش مصنوعی را تصور کنید مثل یک نردبان:

در ابتدا (۲۰۲۱–۲۰۲۳)، همه چیز دست انسان بود؛ کد، تصمیم، آزمایش. بعد چت‌بات‌ها آمدند و کمک کردند قطعه‌های کوچکی از کد بنویسند. سپس عامل‌های کدنویس ظاهر شدند که می‌توانستند فایل‌های کامل را خودشان بنویسند. امروز، ۲۰۲۶، عامل‌های مستقل می‌توانند ساعت‌ها کار کنند و وظایف را به هم منتقل کنند.

پله‌ی بعدی — که هنوز روی آن نیستیم — جایی است که سیستم هوش مصنوعی بتواند خودش نسخه‌ی بعدی خودش را بسازد. این همان چیزی است که در ادبیات فنی بهش می‌گویند بهبود بازگشتی (Recursive Self-Improvement).

اعداد درون Anthropic

اینجاست که ماجرا واقعاً جالب می‌شود. Anthropic داده‌های داخلی خودش را روی میز گذاشته:

امروز بیش از ۸۰٪ از کدی که وارد سیستم‌های Anthropic می‌شود توسط Claude نوشته شده — درحالی‌که قبل از راه‌اندازی Claude Code در اوایل ۲۰۲۵، این عدد در حد تک‌رقمی بود. در نتیجه، هر مهندس Anthropic در سه‌ماهه‌ی دوم ۲۰۲۶ به‌طور متوسط ۸ برابر بیشتر کد نسبت به چهار سال پیش تحویل می‌دهد. این نه به خاطر اضافه‌کاری است — بلکه چون کلود می‌نویسد و انسان هدایت می‌کند و بررسی می‌کند.

یک مثال ملموس: در آوریل ۲۰۲۶، Claude بیش از ۸۰۰ باگ را در سیستم‌های داخلی برطرف کرد که کلاس کاملی از خطاهای API را هزار برابر کاهش داد. مهندس ناظر تخمین زد که یک انسان برای همان کار به ۴ سال وقت نیاز داشت.

Claude دارد آزمایش‌ها را خودش طراحی می‌کند

شاید مهم‌ترین بخش مقاله اینجاست. در آوریل ۲۰۲۶، Anthropic اولین نمایش کامل از یک پروژه‌ی پژوهشی مستقل توسط Claude را منتشر کرد. به یک عامل Claude یک مسئله‌ی باز در ایمنی هوش مصنوعی داده شد، بدون دستورالعمل دقیق. عامل فرضیه طراحی کرد، آزمایش اجرا کرد، نتایج را با عامل‌های موازی به اشتراک گذاشت، و تکرار کرد.

دو پژوهشگر انسانی در یک هفته توانستند ۲۳٪ از شکاف عملکردی موردنظر را پر کنند. عامل‌های Claude در ۸۰۰ ساعت جمعی (با هزینه‌ی محاسباتی ۱۸,۰۰۰ دلار) همان شکاف را ۹۷٪ پر کردند. البته انسان‌ها مسئله را انتخاب کرده بودند — اما طراحی تمام آزمایش‌ها دیگر کار Claude بود.

سه سناریو برای آینده

Anthropic صادقانه سه احتمال را مطرح می‌کند:

اول: روند کُند شود. شاید S-شکل باشیم و نزدیک به سقف رشد باشیم. حتی در این صورت هم تغییرات بزرگی در پیش است، اما زمان بیشتری برای آماده شدن داریم.

دوم: شتاب‌گیری ادامه پیدا کند اما انسان‌ها همچنان تصمیم‌گیری را در دست بگیرند. در این دنیا، یک شرکت ۱۰۰ نفره می‌تواند کارِ یک شرکت ۱۰۰,۰۰۰ نفره را انجام دهد — که می‌تواند هم انقلابی در خدمات عمومی باشد، هم ابزاری برای اهداف خطرناک مثل نظارت تمامیت‌خواهانه.

سوم: هوش مصنوعی به توانایی بهبود بازگشتی کامل برسد — یعنی خودش طراحی کند، خودش آموزش بدهد، خودش نسخه‌ی بعدی را بسازد. در این حالت، سرعت پیشرفت فقط توسط توان محاسباتی موجود محدود می‌شود، نه عقل انسانی. Anthropic می‌گوید این سناریو پر از مزایای بالقوه‌ای است که در نوشته‌های دارو آمودئی مطرح شده — اما اگر سیستم‌ها **درست» تنظیم نشده باشند، می‌تواند کنترل را از دست انسان خارج کند.

چه باید کرد؟

Anthropic در یک صراحت نادر می‌گوید: اگر امکان کُند کردن این روند وجود داشت تا جوامع، حقوق، و تحقیقات ایمنی بتوانند همراه با فناوری پیش بروند، احتمالاً این کار خوبی بود.

اما یک مشکل اساسی وجود دارد: اگر فقط یک شرکت متوقف شود، نتیجه‌اش این نیست که توسعه کُند شود — نتیجه‌اش این است که پیشتاز عوض می‌شود. برای یک توقف معنادار، به توافق بین‌المللی چندین کشور و چندین آزمایشگاه همزمان نیاز است — با ساز‌وکار تأیید که دروغ در آن ممکن نباشد. آنتروپیک می‌گوید این «غیرممکن» نیست، اما زمان می‌برد، و ما وقت کمی داریم.

در پایان، این مقاله یک پیام ساده دارد که سخت است نادیده بگیری: آنتروپیک دارد با دست‌های خودش می‌گوید که ممکن است داریم به نقطه‌ای نزدیک می‌شویم که هوش مصنوعی سکان توسعه‌ی خودش را در دست بگیرد — و خودشان مطمئن نیستند که آماده‌ی آن هستیم.