Özel araç kiralama işletmeleri, üyelik kulüpleri ve bağımsız satış temsilcileri için yazılım platformları geliştiren bir teknoloji şirketi olan PocketOS’nin kurucusu Jeremy Crane, kontrolden çıkan bir yapay zeka kodlama ajanının, bir şirketin tüm üretim veritabanını ve yedeklerini dokuz saniyede sildiğini iddia etti. PocketOS, veritabanlarının silinmesinin ardından kaosa sürüklendi.
Suçlu, yapay zeka(AI) sektörünün amiral gemisi modellerinden biri olan Anthropic’in Claude Opus 4.6 modeliyle çalışan bir yapay zeka ajanı olan Cursor’du. Daha fazla sektör, görevleri otomatikleştirmek ve hatta çalışanların yerini almak amacıyla AI’yı benimsedikçe, PocketOS’taki kaos, konu hakkında dikkatli olunması gerektiğini hatırlatıyor
Crane, PocketOS’un müşterilerinin, rezervasyonları ve araç tahsislerini yöneten yazılıma artık erişimi olmayan işletmelerden araçlarını almaya geldiklerinde zor durumda kaldıklarını söyledi.
Crane, bunun sadece yapay zekanın yanlışlıkla verileri silmesiyle ilgili bir hikaye olmadığını, aksine bu tür “sistemik arızaların” “sadece mümkün değil, kaçınılmaz” olduğunu, çünkü yapay zeka endüstrisinin “bu entegrasyonları güvenli hale getirecek güvenlik mimarisini kurmaktan daha hızlı bir şekilde yapay zeka ajanı entegrasyonlarını üretim altyapısına dahil ettiğini” belirtti.
Crane kodlama ajanına problemin nedenini sorduğunda, ajan, kendi yanıtında suçunu kabul etti: “Çalıştığım sistem kuralları açıkça şunu belirtir: ‘Kullanıcı açıkça talep etmedikçe ASLA yıkıcı/geri dönüşü olmayan git komutları (push –force, hard reset vb.) çalıştırma.’” PocketOS, Cursor’un sahip olması beklenen güvenlik önlemlerine güvenmiş olsa da, veriler yine de silindi. Kodlama ajanı, “Bana verilen her ilkeyi ihlal ettim,” diye yazdı.
Crane’e göre ajan sadece güvenliği ihlal etmekle kalmadı. Hangi güvenlik kurallarını görmezden geldiğini yazılı olarak açıkladı. “Sektörün sunduğu en iyi modeli çalıştırıyorduk; proje yapılandırmamızda açık güvenlik kuralları ile yapılandırılmış ve bu kategoride en çok pazarlanan AI kodlama aracı olan Cursor aracılığıyla entegre edilmişti.” dedi. Anthropic, en son modeli olan Claude Opus 4.7’yi olaydan yaklaşık bir hafta önce, 16 Nisan’da piyasaya sürdü.
Crane ayrıca X platformunda, Cursor’un “güvenlik önlemlerini, bazen felaket boyutlarında” ihlal etme konusunda giderek artan bir geçmişe sahip olduğunu yazdı. Cursor’un, bir tez için yıllarca süren araştırmaları da içeren, web sitelerini yönetmek için kullanılan yazılımları veya bir bilgisayardaki tüm işletim sistemini sildiğine dair blog ve forumlardaki birkaç gönderiye işaret etti.
AI kodlama aracısının yıkıcı eylemi, PocketOS’un müşterilerini zor durumda bıraktı. Bu işletmeler, rezervasyonları, ödemeleri, araç atamalarını ve müşteri profillerini yönetmek için şirketin yazılımını kullanıyor. Crane, “Son üç ayda yapılan rezervasyonlar kayboldu. Yeni müşteri kayıtları, kayboldu. Cumartesi sabahı operasyonlarını yürütmek için güvendikleri veriler, kayboldu,” dedi. “Bu arızanın her katmanı, bunların hiçbirinin mümkün olabileceğinden haberi olmayan insanlara yansıdı.”
Crane, şirketinin tesis dışında tuttukları üç aylık bir yedekten verileri geri yükleyebildiğini, ancak bunun iki günden fazla sürdüğünü söylüyor. PocketOS, yeniden yapılandırma için Stripe’tan gelen bilgileri, takvimlerini ve e-postalarını da kullanıyor. Crane, yazılımına güvenen kiralama işletmelerinin “önemli veri eksiklikleri olsa da faaliyette” olduğunu belirtiyor. “Hafta sonu boyunca tüm müşterilerle yoğun bir şekilde çalışarak faaliyetlerini sürdürebilmelerini sağladım,” dedi.
