MIT FutureTech ve Queensland Üniversitesi tarafından yapılan yeni bir araştırmada 272 araştırmacı, yapay zekanın 24 önemli riskini sıraladı. Araştırmacılar, yapay zekanın yıkıcı kapasitelerinin 2030 yılına kadar yüzde 12 ihtimalle, yapay zeka destekli silahların ise yine yüzde 12 ihtimalle felaket sonuçlara yol açabileceğini tahmin etti. Azaltma çabaları olmadan bu ihtimallerin yüzde 20'yi aştığı belirtildi.
Araştırmacılar felaketi, bir milyondan fazla ölüm ya da 100 milyar doları aşan zarar olarak tanımladı. En yüksek risk kategorileri arasında yapay zekanın kimyasal ve biyolojik silah üretimine yardımcı olması yer aldı. OpenAI'dan Sam Altman, Anthropic'ten Dario Amodei, Google DeepMind'dan Demis Hassabis, Microsoft'tan Mustafa Suleyman ve Meta'dan Alexander Wang geçen ay yapay zeka kaynaklı biyolojik silah tehlikesine karşı uyarılan açık mektubu imzaladı.
Uzmanlar, ileri düzey yapay zekanın biyolojik zayıf noktalarımızı siber güvenlik açıklarını bulduğu gibi tespit edebileceğini ve kötü niyetli aktörlerin tespit ve önleme sistemlerinden önce yeni bir patojen geliştirmesine zemin hazırlayabileceğini vurguladı. Açık kaynak modellerin düzenleme dışı ortamlarda kötüye kullanılabileceğine dikkat çekildi. Biyomühendislik bugün nadir uzmanlık ve özel laboratuvar ekipmanı gerektirse de yapay zekanın bu süreci hızlandırdığı kaydedildi