Yapay zeka teknolojilerinin hızlı gelişimi, sektörün önde gelen isimleri arasında ciddi güvenlik tartışmalarını beraberinde getirdi. Google'daki görevinden ayrılan Bilal Chughtai, yapay zekanın insanlığın sonunu getirebilecek bir potansiyele sahip olduğunu belirterek, bu durumun artık teorik bir varsayımdan ibaret olmadığını vurguladı. Chughtai, teknoloji şirketlerinin kontrolsüz bir yarış içinde olduğunu savunarak, toplumun bu sürece müdahale edebilmesi için geliştirme hızının düşürülmesi gerektiğini ifade etti.
Benzer endişeler Anthropic bünyesinde de dile getiriliyor. Şirketten ayrılan Jacob Coxon da benzer kaygılarla görevini bıraktığını açıklarken, araştırmacı Evan Hubinger önümüzdeki on yıl içinde insanlığın yok olmasıyla sonuçlanabilecek bir senaryonun gerçekleşme ihtimalini yüzde 10'un üzerinde gördüğünü belirtti. Bu görüşler, sektördeki güvenlik açıklarının ve denetim mekanizmalarının yetersizliğine dair endişeleri artırıyor.
Anthropic CEO'su Dario Amodei başta olmak üzere, Sam Altman ve Elon Musk gibi isimler de yapay zeka geliştirme süreçlerinde daha temkinli ve kontrollü bir yaklaşım benimsenmesi gerektiğini savunuyor. Uzmanlar, şirketlerin mevcut rekabetçi tutumlarını gözden geçirerek, insanlık için güvenli bir teknolojik gelecek inşa etmek adına daha yavaş ve denetlenebilir bir tempoya geçmeleri gerektiği konusunda hemfikir görünüyor.
