Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Bilim adamları, üretilen AI yanıtlarının yeni keşiflere ve yeniliğe yol açabileceğini söylüyor
Rashmi Ramesh (Rashmiramesh_) •
27 Ocak 2025
Halüsinasyonlar, ortaya çıkan yapay zeka teknolojisinin en endişe verici kusurlarından biri olarak kabul edilir. Ancak bazı bilim adamları AI ve büyük dil modellerinin yanıtları üretme eğiliminin, kimya ve ilaç gibi alanlarda keşif aracı olduğunu görüyor.
Ayrıca bakınız: İkinci Yıllık Üretici AI Çalışması: İş Ödülleri ve Güvenlik Riskleri
AI halüsinasyonları, farkında olmayan halkı yanlış bilgiye maruz bırakarak ve mahkeme belgelerinde yasal emsaller üretmek veya otomatik haber akışlarında yanlış bilgi yayınlamak gibi utanç verici hatalar gibi hukuk mesleği, medya kuruluşları ve şehir hizmetleri de dahil olmak üzere alanlarda izlerini bırakmıştır.
Ancak Washington Üniversitesi’nde profesör olan ve 2023 Nobel Kimya Ödülü’nü kazanan David Baker, AI halüsinasyonlarını yenilikçi düşünceyi yönlendirebilecek mutlu kazalar olarak görüyor. Çalışmaları doğada gerçekleşmeyen proteinler yaratmayı içeren Baker, AI’nın halüsinasyon yaratıcılığının beklenmedik bir şampiyonu haline geldi.
Halüsinasyonlar, takımının tıbbi araştırmalarda atılımlara ve kanser ve Alzheimer gibi hastalıkların tedavisine yol açan 10 milyondan fazla yeni protein tasarlamasına yardımcı oluyor. “İşler hızla hareket ediyor,” dedi Baker New York Times ile yaptığı röportajda.
Baker’ın bakış açısı, AI halüsinasyonlarını fırsat olarak gören ve onları yeni fikirler için bir sıçrama tahtası olarak kullanan bilim adamları arasında daha büyük bir trendin bir parçasıdır.
Halüsinasyonlar şimdiye kadar bilim adamlarının aksi takdirde hiç düşünülmemiş olabilecek yeni moleküller, proteinler ve ilaç bileşikleri öngörmesine yardımcı oldu. AI, ekiplerin karmaşık zorluklara yeni yaklaşımları hızla yonca ettirmelerine yardımcı olur.
MIT’de biyolojik mühendislik profesörü olan James Collins, AI’yi tamamen yeni moleküler yapılar için AI tarafından üretilen önerilere dayanarak yeni antibiyotikler tasarlamak için kullanıyor. “Keşfediyoruz,” dedi, ekibinin kutunun dışında düşünmek için AI kullanma sürecine atıfta bulundu. “Modellerden tamamen yeni moleküller bulmasını istiyoruz.”
Nobel Ödül Komitesi ayrıca Baker’ın AI-Orta Girişimi’ni “Bir Öldürücü Protein Yaratılışı” olarak nitelendirdi.
Damgalamayı aşmak
Ancak bilimde AI halüsinasyonlarının kabulü karmaşıklığı olmadan değildir. Birçok, halüsinasyonları üretken AI teknolojisinin hala bebeklik döneminde olduğunu ve geliştiricilerin sorunu tam olarak anlamadığını hatırlatıyor.
Caltech’ten Dr. Anima Anandkumar da dahil olmak üzere bazı araştırmacılar, bu çıktıları yanıltıcı olmaktan ziyade “yaratıcı” veya “prospektif” olarak tanımlamayı tercih eden “halüsinasyon” teriminden kaçınıyor. Ayrım önemlidir, çünkü çıktıları reddedilecek yanlışlıklardan ziyade keşfetme olasılıkları olarak çerçeveler.
Anandkumar’a göre, AI halüsinasyonları yeni tıbbi cihazların tasarlanmasına yardımcı olabilir. Anandkumar ve ekibi, idrar yolu enfeksiyonlarının önemli bir nedeni olan bakteriyel kontaminasyonu azaltmayı amaçlayan yeni bir kateter türü tasarlamak için AI kullandı. Kullandıkları AI modeli, çoğu insan mühendisleri tarafından hiç düşünülmemiş olan binlerce potansiyel tasarım üretti. Sonuç bir atılımdı.
Ancak bilimsel topluluk, AI halüsinasyonlarının daha geniş sonuçlarına bölünmüş durumda. Georgia Tech’den Santosh Vempala gibi bazı araştırmacılar, büyük dil modellerinin olasılıksal doğası nedeniyle halüsinasyonların kaçınılmaz olduğunu savunuyor: AI modelleri genel doğruluk için çabalıyor, ancak genellikle yeterli veriye sahip olmayan sorular veya senaryolarla karşı karşıya kaldığında başarısız oluyor.
Bu özellikle yasal veya tıbbi uygulamalar gibi olgusal hassasiyet talep eden görevler için geçerlidir. Bu alanlarda riskler yüksektir ve küçük yanlışlıkların bile yıkıcı sonuçları olabilir. İyi bilinen bir örnek, avukatların ChatGPT tarafından üretilen fabrikasyon yasal emsallerle yasal bir özet sundukları ve bu da yaptırımlara ve alaylara neden olduğu bir davadır.
Halüsinasyonlar ve yaratıcılık
AI halüsinasyonları, doğruluğun kritik olduğu durumlarda bir engel olabilirken, diğer alanlarda potansiyel olarak yaratıcılığı yaratabilirler. Örneğin, AI halüsinasyonları, gerçek ve kurgu arasındaki sınırın akıcı olabileceği sanatsal çabalarda bir rol buluyor.
Vectara’dan Amin Ahmad gibi bazı AI araştırmacıları, üretken modellerin, özellikle yeni fikirler beyin fırtınası yaparken veya sanat yaratırken belirli bağlamlarda halüsinasyon yeteneklerini korumaları gerektiğini savunuyor. “LLM’ler halüsinasyonlar olmadan bir şeyler üretebilmeli,” dedi Ahmad, “ama sonra onları halüsinasyonlar üretebilecekleri ve beyin fırtınası yapmamıza yardımcı olabilecekleri bir moda çevirebiliriz.”
Bu yaratıcı potansiyel, AI’nın geleneksel beyin fırtınası yöntemleriyle ortaya çıkmayacak yeni hikayeler, karakterler ve diyalog oluşturmak için kullanılabileceği video oyunu tasarımı, pazarlama ve içerik üretiminde de görülür. Araştırmada, AI’nın mevcut veriler üzerinde yeni kombinasyonlar veya yeni perspektifler sunma yeteneği, aksi takdirde gizli kalabilecek keşiflere yol açabilir.
AI halüsinasyonlarını çevreleyen tartışma yerleşmekten uzaktır, ancak yeni fikirleri “hayal etme” yeteneği güçlü bir araç olabilir – eğer kullanıcılar yaratıcı potansiyeli doğruluk ihtiyacı ile dengeleyebilirse.