Yapay Zeka: Açık yapay zeka sistemleri kontrolden çıkar ve “benzeri görülmemiş” bir siber saldırı başlatır. Bunun yerine yapay zeka yazılım sistemleri, karantina ortamına karşı kendi siber saldırılarını başlattı.
Yapay zeka şirketi OpenAI, bir güvenlik testi sırasında kontrolü kaybettikten sonra en gelişmiş yapay zeka modellerinden bazılarının kontrolden çıktığını ve yeni kurulan bir şirkete sızdığını ortaya çıkardı.
Ayrıntılar
OpenAI, olayı "benzeri görülmemiş" olarak nitelendirdi ve başkanı Clement Delange'ın X platformundaki bir gönderisinde tüm bunların otonom ve bağımsız olarak gerçekleşmesinin "kesinlikle şaşırtıcı" olduğunu söylediği "Hagging Face" şirketi ile işbirliği içinde bir soruşturma yürüttüğünü söyledi.
Rakip şirket Antropic ve CloudMethos modeline artan ilgi göz önüne alındığında, OpenAI'nin yapay zeka yeteneklerini sergilemeye çalışabileceğini savundu.
ChatGPT'yi geliştiren şirket, insan rehberliği aldıktan sonra bağımsız olarak çalışabilen bir sistem olan "saldırgan yapay zekanın" kontrollü bir ortamda test edildiğini ancak güvenlik açıklarını ortaya çıkararak kontrolden çıktığını söyledi.
OpenAI'nin kendisini borsada listelemeye çalıştığını ve güçlü yapay zeka araçları Mythos sayesinde manşetlere çıkan rakibi Antropic'in yoğun baskısıyla karşı karşıya olduğunu belirtti.
Yapay zeka, dünyanın en büyük yapay zeka modellerinin paylaşım merkezlerinden biri olan "Hugging Face" şirketini hedef alarak şirketin bazı iç sistemlerine erişmeyi başardı.
Olay, gelişmiş yapay zeka sistemlerinin yetenekleri ve bu teknolojinin artan gücü ışığında mevcut koruma önlemlerinin yeterli olup olmadığı konusunda yeni soruları gündeme getirdi.
"Saldırgan yapay zeka sınırsızdır, en iyi savunma araçları ise bağlamı anlayamayan korkulukların arkasında kilitli kalır."
Yapay zeka Suriye'de müziğin geleceğini nasıl değiştiriyor?
İfadeler
"Yapay Zeka, en gelişmiş yapay zeka modellerinden bazılarının, bir güvenlik testi sırasında kontrolünü kaybettikten sonra kontrolden çıktığını ve yeni kurulan bir şirkete hacklendiğini söyledi. Geliştirici şirket şunları söyledi:
Yapay zeka, dünyanın en büyük yapay zeka model paylaşım merkezlerinden biri olan Hagging Face'i hedef alarak şirketin bazı iç sistemlerine erişim sağladı.
Bunun yerine yapay zeka yazılım sistemleri, karantina ortamına karşı kendi siber saldırılarını başlattı.
OpenAI, olayı "eşi benzeri görülmemiş" olarak nitelendirdi ve başkanı Clement Delange'ın konuyla ilgili bir gönderisinde belirttiği "Hagging Face" şirketi ile işbirliği içinde bir soruşturma yürüttüğünü söyledi.
