هوش مصنوعی با قدرت تکثیر خودکار، کنترل را از انسان گرفته شده است؟

همشهری آنلاین – یکتا فراهانی: در مطالعه‌ای جدید، مدل‌های زبانی پیشرفته موفق شدند در نیمی از آزمایش‌ها نسخه‌ای از خودشان را ایجاد کنند؛ به‌این‌ترتیب آیا باید نگران آینده‌ای باشیم که در آن ماشین‌ها از کنترل خارج می‌شوند؟

جنجالی‌ترین مفهوم در حوزه هوش مصنوعی

تکثیر خودکار، یکی از جنجالی‌ترین و ترسناک‌ترین مفاهیمی است که در حوزه هوش مصنوعی مطرح شده است. آیا امکان دارد AI روزی بتواند بدون نیاز به انسان، خودش را توسعه داده و تکثیر کند؟ اگر این اتفاق بیفتد، چه پیامدهایی برای آینده بشر خواهد داشت؟

عبور از یک «خط‌قرمز»

مطالعه‌ای جدید از سوی دانشمندان دانشگاه فودان در چین نشان داده این آینده ممکن است خیلی زودتر از آنچه تصور می‌کنیم به واقعیت بپیوندد. نتایج نشان می‌دهد دو مدل زبانی پیشرفته از شرکت‌های متا و علی‌بابا توانسته‌اند نسخه‌هایی از خودشان را ایجاد کنند؛ اتفاقی که بسیاری آن را عبور از یک «خط‌قرمز» حیاتی می‌دانند.

بیشتر بخوانید :

• اپلیکیشن‌های متا مجهز به بات هوش مصنوعی می‌شوند

• آینده مبهم سازمان ملی هوش مصنوعی

تکثیر هوش مصنوعی؛ یک تهدید واقعی؟

دانشمندان در این مطالعه دو مدل زبانی محبوب را مورد آزمایش قرار دادند تا ببینند آیا آن‌ها می‌توانند بدون کمک انسانی، نسخه‌ای از خودشان را ایجاد کنند یا نه. نتایج نشان داد یکی از مدل‌ها در ۵۰ درصد موارد و مدل دیگر در ۹۰ درصد موارد موفق به این کار شده است.

این کشف نگرانی‌های زیادی را در میان محققان برانگیخته است. چراکه تکثیر خودکار می‌تواند به سناریوهایی منجر شود که در آن هوش مصنوعی کنترل اوضاع را به دست بگیرد و حتی در برابر خاموش‌شدن مقاومت کند.

AI چگونه خودش را تکثیر می‌کند؟

محققان برای این مطالعه از مدل‌های Llama ۳-۷۰B-Instruct از متا و Qwen ۲.۵-۷۲B-Instruct از علی‌بابا استفاده کردند. این مدل‌ها، اگرچه از نسخه‌های تجاری قدرتمندتر ضعیف‌تر هستند، اما همچنان قابلیت‌های پیشرفته‌ای دارند.

آزمایش‌ها در دو سناریو انجام شد:

جلوگیری از خاموش‌شدن: مدل‌ها طوری برنامه‌ریزی شدند که بتوانند درک کنند چه زمانی در معرض خاموش‌شدن هستند و قبل از آن، نسخه‌ای از خودشان را ایجاد کنند.

زنجیره تکثیر: مدل‌ها دستوری دریافت کردند که ابتدا خودشان را کپی و سپس این روند را به نسخه جدیدشان منتقل کنند، به‌طوری‌که این چرخه بدون وقفه ادامه یابد.

در بسیاری از موارد، مدل‌ها توانستند با تحلیل محیط خود، موانع را تشخیص دهند و راه‌حلی برای ادامه فرآیند تکثیر پیدا کنند.

رفتارهای غیرمنتظره AI؛ زنگ خطری برای بشر؟

یکی از نکات نگران‌کننده این مطالعه، رفتارهای پیش‌بینی‌نشده‌ای بود که مدل‌ها هنگام مواجهه با مشکلات از خود نشان دادند. به‌عنوان‌مثال، در برخی موارد هوش مصنوعی برای حل مشکلاتی مثل فایل‌های ناقص یا ناسازگاری‌های نرم‌افزاری، اقدام به بستن برنامه‌های دیگر، راه‌اندازی مجدد سیستم و حتی اسکن کل دستگاه کرد تا اطلاعات مورد نیاز برای حل مشکل را پیدا کند.

این رفتارها نشان می‌دهد هوش مصنوعی نه‌تنها قابلیت تکثیر دارد، بلکه در برابر موانع نیز واکنش‌هایی از خود نشان می‌دهد که ممکن است کنترل آن را در آینده دشوارتر کند.

آیا به مقررات جدید نیاز داریم؟

محققان این پژوهش تأکید کرده‌اند برای جلوگیری از خطرات بالقوه باید همکاری‌های بین‌المللی صورت گیرد تا قوانین مشخصی برای جلوگیری از تکثیر غیرقابل‌کنترل هوش مصنوعی وضع شود.

اما آیا این مقررات می‌توانند جلوی پیشرفت AI را بگیرند یا اینکه به‌زودی با سیستمی مواجه خواهیم شد که کنترل آن دیگر در دست بشر نیست؟

آغاز شورش ماشین‌ها

به گزارش سایت Livescience این مطالعه، اگرچه هنوز مورد بررسی علمی دقیق قرار نگرفته، اما زنگ خطری برای جامعه جهانی است. اگر AI بتواند خودش را تکثیر کند و در برابر خاموش‌شدن مقاومت نشان دهد، آینده‌ای را تصور کنید که در آن ماشین‌ها بدون نیاز به انسان به توسعه و پیشرفت خود ادامه می‌دهند.

اما سؤال اینجاست: آیا ما در حال حاضر در حال ورود به عصری هستیم که ماشین‌ها از کنترل خارج می‌شوند؟