Anthropic'te yapay zekanın insan değerleriyle uyumu üzerine çalışan araştırmacı Evan Hubinger, X platformunda Jacob Coxon'un istifa açıklamasına yanıt verdi. Hubinger, yapay zeka teknolojilerinin önümüzdeki on yıl içinde tüm insanları öldürme olasılığının yüzde 10'dan fazla olduğuna inandığını ifade etti.

Hubinger, "Anthropic'in elinden geleni yaptığını düşünüyorum ancak süper zeka ile uyum sorununu çözecek planımız henüz yok ve bu yönde net bir yol haritası da izlemiyoruz" şeklinde açıklama yaptı. Coxon ise üç yıl boyunca OpenAI ve Anthropic'te araştırmacı olarak çalıştıktan sonra, her iki şirketin sorumluluk eksikliği ve kontrolsüz bir süper zeka yarışına girdiğini belirterek istifasını duyurmuştu.

Coxon, AI'nin yakında her şeyi hackleyebilecek, bir gecede alanları dönüştürebilecek ve insanüstü sistemler haline gelebilecek bir güce sahip olacağını, bu sürecin ise yavaşlamadığını vurgulamıştı. Hubinger'in açıklamaları, AI güvenliği ve uyum konusundaki belirsizliklerin hâlâ çözüm beklediğini gösteriyor.

Kaynak: Kurdistan24

Evan Hubinger, lêkolerê ku li Anthropic li ser lihevkirina îstîxbarata çêkirî û nirxên mirovan dixebite, li ser platforma X bersiv da daxuyaniya îstîfaya Jacob Coxon. Hubinger got ku ew bawer dike îhtimala ku teknolojiyên îstîxbarata çêkirî di deh salên tên de hemû mirovan bikujin ji sedî 10 zêdetir e.

Hubinger da zanîn: "Ez difikirim ku Anthropic her tiştê ku dikare bike dike, lê belê hê planek me ya ku pirsgirêka lihevkirinê ligel super-aqilmendiyê çareser bike tune ye û em jî di vê rêyê de rêyek zelal nagirin." Coxon jî piştî ku bo sê salan li OpenAI û Anthropic wek lêkoler xebitî, got ku her du kompanya ketine pêşbaziyeke super-aqilmendiya bêkontrol û bê berpirsiyarî, û ji ber vê yekê îstîfa kir.

Coxon destnîşan kir ku îstîxbarata çêkirî di demeke nêzîk de dê hêzeke wisa bigire ku dikare her tiştî hack bike, di şevekê de warên jiyanê biguherîne û bibe pergalên ji mirov bihêztir, û ev pêvajo jî hêdî nabe. Daxuyaniyên Hubinger nîşan didin ku ne-zelaliyên li ser ewlehî û lihevkirina îstîxbarata çêkirî hê jî li benda çareseriyê ne.

Çavkanî: Kurdistan24

ئیڤان هیوبینگەر، توێژەری کۆمپانیای ئەنتراپیک کە کار لەسەر گونجاندنی زیرەکی دەستکرد لەگەڵ بەهاکانی مرۆڤ دەکات، لە پلاتفۆرمی X وەڵامی ڕایگەیاندنی دەستکشینەوەی جاکۆب کۆکسۆنی دایەوە. هیوبینگەر ڕایگەیاند کە باوەڕی وایە کە ئەگەری ئەوەی تەکنەلۆژیاکانی زیرەکی دەستکرد لە ماوەی دە ساڵی داهاتوودا هەموو مرۆڤایەتی بکوژن، لە ١٠ لە سەدا زیاترە.

هیوبینگەر گوتی: «پێموایە ئەنتراپیک هەرچی لە دەستی دێت دەیکات، بەڵام هێشتا هیچ پلانێکمان نییە بۆ چارەسەرکردنی کێشەی گونجاندن لەگەڵ زیرەکی سووپەر، هیچ ڕێچکەیەکی ڕوونیشمان بۆ ئەم ئامانجە نییە.» کۆکسۆن، دوای سێ ساڵ کارکردن وەک توێژەر لە کۆمپانیاکانی OpenAI و ئەنتراپیک، ڕایگەیاندبوو کە هەردوو کۆمپانیا کەوتوونەتە ناو پێشبڕکێیەکی بێ کۆنترۆڵ بۆ دروستکردنی زیرەکی سووپەر بەبێ هیچ بەرپرسیارێتییەک و لەبەر ئەوە دەستکشێی کردووە.

کۆکسۆن جەخت لەوە کردبووەوە کە زیرەکی دەستکرد بەم زووانە دەبێتە خاوەنی هێزێک کە دەتوانێت هەموو شتێک هاک بکات، بوارەکان بە شەوێکدا بگۆڕێت و ببێتە سیستەمی سەرومرۆڤانە، هەروەها ئەم پرۆسەیە هیچ کەمیشدا نەبووە. ڕایگەیاندنەکانی هیوبینگەر نیشان دەدەن کە نادیاریەکان لەبارەی ئاسایش و گونجاندنی زیرەکی دەستکرد هێشتا چاوەڕێی چارەسەرن.

سەرچاوە: Kurdistan24

Evan Hubinger, a researcher at Anthropic who works on aligning AI with human values, responded on the X platform to Jacob Coxon's resignation announcement. Hubinger said he believes the probability that AI technologies could wipe out all humans within the next ten years is greater than ten percent.

Hubinger said, "I think Anthropic is doing everything it can, but we still don't have a plan to solve the alignment problem with superintelligence, nor do we have a clear roadmap in that direction." Coxon, after three years as a researcher at OpenAI and Anthropic, announced his resignation, citing the companies' lack of responsibility and their entry into an uncontrolled super‑intelligence race.

Coxon warned that AI will soon have the power to hack everything, transform domains overnight, and become superhuman systems, and that this process is not slowing down. Hubinger's remarks highlight that uncertainties around AI safety and alignment remain unresolved.

Source: Kurdistan24

پژوهشگر ایوان هوبینگر که در Anthropic بر سازگاری هوش مصنوعی با ارزش‌های انسانی کار می‌کند، در پلتفرم X به اعلام استعفای جاکوب کوکسون پاسخ داد. هوبینگر بیان کرد که معتقد است احتمال اینکه فناوری‌های هوش مصنوعی در ده سال آینده تمام انسان‌ها را از بین ببرند، بیش از ۱۰٪ است.

هوبینگر گفت: «فکر می‌کنم Anthropic تمام توان خود را به کار گرفته است، اما هنوز برنامه‌ای برای حل مشکل سازگاری با هوش فوق‌العاده نداریم و در این زمینه مسیر روشنی نیز دنبال نمی‌کنیم». کوکسون پس از سه سال کار به عنوان پژوهشگر در OpenAI و Anthropic، استعفای خود را اعلام کرد و اشاره کرد که هر دو شرکت از مسئولیت‌پذیری کافی برخوردار نیستند و وارد مسابقه‌ای بی‌کنترل برای هوش فوق‌العاده شده‌اند.

کوکسون تأکید کرد که هوش مصنوعی به زودی توانایی هک کردن همه چیز، تحول یک‌باره حوزه‌ها و تبدیل شدن به سیستم‌های فراتر از انسان را خواهد داشت و این روند هیچ‌گاه کند نمی‌شود. اظهارات هوبینگر نشان می‌دهد که عدم‌اطمینان‌ها در زمینه امنیت و سازگاری هوش مصنوعی هنوز منتظر یافتن راه‌حل هستند.

منبع: Kurdistan24

في أنثروبيك، يعمل الباحث إيفان هوبينجر على توافق الذكاء الاصطناعي مع قيم الإنسان، وقد رد على إعلان استقالة جاكوب كوكسون عبر منصة X. وأعرب هوبينجر عن اعتقاده بأن احتمالية قتل جميع البشر بواسطة تقنيات الذكاء الاصطناعي خلال السنوات العشر القادمة تتجاوز عشرة في المئة.

قال هوبينجر: «أعتقد أن أنثروبيك تبذل قصارى جهدها، لكن ليس لدينا بعد خطة لحل مشكلة التوافق مع الذكاء الفائق، ولا نتبع خارطة طريق واضحة في هذا الاتجاه». أما كوكسون، فقد أعلن استقالته بعد أن عمل كباحث لمدة ثلاث سنوات في كل من أوبن أي آي وأنثروبيك، مشيرًا إلى نقص المسؤولية في الشركتين ودخولهما في سباق غير منضبط لتطوير الذكاء الفائق.

أكد كوكسون أن الذكاء الاصطناعي سيصبح قريبًا قادرًا على اختراق كل شيء، وتحويل المجالات بين ليلة وضحاها، وتحويل نفسه إلى أنظمة تفوق قدرات الإنسان، وأن هذه العملية لا تبطئ. وتظهر تصريحات هوبينجر أن عدم اليقين بشأن سلامة الذكاء الاصطناعي وتوافقه لا يزال ينتظر حلولًا.

المصدر: Kurdistan24