Amerikan yapay zeka araştırma şirketi Anthropic, Çinli muadilleri Alibaba'yı popüler yapay zeka modeli Cloud'u yasa dışı şekilde sömürmek ve erişim sağlamakla suçladı.

Financial Times'a göre, Amerikan şirketi ABD Kongresi'ne resmi bir suçlama mektubu gönderdi ve yaşananları hizmetlerine ve teknoloji platformlarına yönelik en büyük "damıtma ve çıkarım" saldırısı olarak tanımladı.

Milyonlarca etkileşim ve sahte hesap

Amerikan şirketi, iddianamelerinde Alibaba'nın yaklaşık 25.000'den fazla sahte hesabı kullanıp aktive ettiğini, yaklaşık 28,8 milyon mesaj veya yapay zeka araçlarıyla doğrudan etkileşim oluşturduğunu açıkladı. Bu sistematik adım, Anthropic'in Hizmet ve Kullanım Şartları'nın doğrudan ve açık bir ihlaliydi.

Teknik göstergeler, bu hedefli saldırının 22 Nisan ile 5 Haziran arasında sürdüğünü ve esas olarak şirketin Mythos modelinin gelişmiş yeteneklerine erişim sağlamak amacıyla yapıldığını gösterdi; ardından ABD hükümeti bu hassas modele erişimi engelleme kararı aldı.

Anthropic, Alibaba ve yapay zeka laboratuvarı olan Alibaba Qwen hakkında doğrudan ve ayrıntılı bir suçlama yaptı.

Şirket, ABD Senatosu'na bu tür ihlalleri önlemek için gerekli yasama ve güvenlik önlemlerini almayı, bunlardan sorumlu tarafları ve şirketleri cezalandırmayı çağrıda bulundu. Mektubunda, ABD hükümetinin dijital hırsızlık saldırılarıyla mücadele çabalarını tam desteklediğini ve ulusal teknoloji güvenliğini artırmak için özel sektör yapay zeka şirketleriyle güçlü ortaklıklar kurmayı da ifade etti.

Anthropic, daha önce birçok Çinli şirketin benzer saldırılarına maruz kalmıştı; bu şirketler yapay zeka modellerini Bulut araçlarına sızarak eğitmek ve geliştirmek için damıtma ve çıkarım teknikleri kullanmıştı.

O dönemde yayımlanan raporda operasyon hacminin izlenmesi de yer alıyordu; "DeepSec" kampanyası 150.000'den fazla borsayı içerken, "Moonshot AI" yaklaşık 3,4 milyon takas kaydetti ve "MiniMax" eğitim verisi çaldığı için 13 milyon yasa dışı takas bariyerini aştı.

Alibaba Group, Çin Kurtuluş Ordusu ile bağlantılı olduğu ve ABD hedeflerine yönelik askeri faaliyetlere destek sağladığı şüphesiyle ABD hükümeti tarafından yasaklanan şirketler listesine alındı. Alibaba, Çin ordusuyla herhangi bir bağlantısı olduğunu reddetti, ancak sessiz kaldı ve Reuters'ın Anthropic'in kendisine yönelttiği son teknik suçlamalar hakkında yorum talebine yanıt vermedi.

Drifting Attack'lar nedir?

Forbes dergisinin bir raporu, damıtma saldırılarını Amerika Birleşik Devletleri ile Çin arasındaki devam eden yapay zeka savaşında en yeni ve en tehlikeli silah olarak tanımlıyor ve tehlikesi, saldırganların herhangi bir önde gelen yapay zeka modelinin gelişmiş bilişsel yeteneklerini kullanarak düşük maliyetle başka bir replika modeli eğitip geliştirmelerine olanak tanımasıdır.

Bu saldırıların teknik ve ekonomik mekanizması aşağıdaki noktalarda özetlenebilir:

Veri toplama mekanizması: Saldıran şirket, yapay zekadan (mağdurdan) tipik cevaplar almak için hesaplar oluşturur ve milyonlarca soru üretir.

Simülasyon modelinin beslenmesi: Ortaya çıkan yapay zeka modelleri bu entegre çiftlerle (gelişmiş soru-cevap) beslenir ve eğitim için hazır bir veritabanı olarak kullanılır.

Hesaplama ve işleme sağlama: Bu karmaşık yöntem, işletmeleri büyük hacimli ham veri içe aktarma ve satın alma ihtiyacından kurtarır ve ilk kurulumlar için gereken üstün hesaplama gücü ile karmaşık işlemeyi azaltır.

Ekonomik sonuç: Orijinal modellerle aynı yeteneklere sahip güçlü yapay zeka modellerinin lansmanı