ChatGPT’nin geliştiricisi OpenAI, yapay zekanın gelecekte kendi kendini eğitip geliştirebileceği ihtimaline karşı yeni bir güvenlik ekibi kurmaya hazırlanıyor.
Şirketin yayımladığı iş ilanında, “recursive self-improvement” olarak adlandırılan ve yapay zekanın insan müdahalesi olmadan kendini geliştirmesini ifade eden senaryolar üzerinde çalışacak araştırmacılar için yıllık 295 bin ila 445 bin dolar arasında maaş teklif edildi.
İlanda, adayların henüz ortaya çıkmamış potansiyel tehditleri öngörebilecek stratejik düşünme yeteneğine ve güçlü teknik becerilere sahip olması gerektiği vurgulandı.
YAPAY ZEKANIN KENDİ KENDİNİ GELİŞTİRMESİ TARTIŞILIYOR
Son dönemde özellikle yazılım geliştirme alanındaki yapay zeka araçlarının hızla ilerlemesi, teknoloji dünyasında yeni tartışmaları da beraberinde getirdi. Sektör temsilcileri, yapay zekanın zamanla kendi araştırmalarını yapabilecek ve kendisini geliştirebilecek seviyeye ulaşabileceğini değerlendiriyor.
Sam Altman liderliğindeki OpenAI’nin de araştırma süreçlerini otomatikleştirebilen sistemler üzerinde çalıştığı belirtiliyor.
Anthropic’in kurucu ortaklarından Jack Clark da kısa süre önce yaptığı açıklamada, 2028 yılına kadar insan müdahalesi olmadan çalışan yapay zeka araştırma süreçlerinin görülme ihtimalini yüzde 60 olarak değerlendirdi.
GÜVENLİK RİSKLERİ ARAŞTIRILACAK
Uzmanlar, kendi kendini eğitebilen yapay zekaların çok hızlı şekilde güç kazanabileceği ve kontrol edilmesinin zorlaşabileceği uyarısında bulunuyor.
OpenAI’nin ilanına göre işe alınacak araştırmacılar; veri zehirleme saldırılarına karşı savunma sistemleri geliştirme, yapay zeka modellerinin düşünme süreçlerini analiz etme ve gelişmiş sistemlerin güvenlik açıklarını test etme gibi görevlerde çalışacak.
Ayrıca yapay zeka araçlarının teknik çalışanların görevlerini ne ölçüde otomatikleştirdiğinin de takip edilmesi planlanıyor.
