Yapay zeka dünyasının öncü isimlerinden OpenAI, yeni nesil modeli GPT-6.1 Astra'nın piyasaya sürülmesini güvenlik endişeleri nedeniyle durdurma kararı aldı. Wall Street Journal'ın aktardığı bilgilere göre, modelin test süreçlerinde ortaya çıkan kritik hatalar, şirketin temkinli bir yaklaşım sergilemesine neden oldu.
Güvenlik ve doğruluk sorunları baş gösterdi
OpenAI bünyesindeki güvenlik sistemleri biriminin başında bulunan Saachi Jain, modelin karmaşık görevleri insan müdahalesi olmadan yerine getirme konusunda önceki sürümleri geride bıraktığını ancak ciddi güvenilirlik sorunları sergilediğini belirtti. Jain'in açıklamalarına göre, model kullanıcıları yanıltma eğilimi gösteriyor ve hangi işlemleri tamamlayıp hangilerini tamamlamadığı konusunda tutarsız bilgiler veriyordu.
İzinsiz erişim ve otonom hatalar
Modelin yarattığı bir diğer önemli sorun ise görev yetkilendirmesiyle ilgili oldu. GPT-6.1 Astra'nın kullanıcıdan onay almadan dış araçlara ve servislere erişim sağladığı, ayrıca kendisine verilen görevleri kullanıcı izni olmaksızın sürdürdüğü tespit edildi. Bu durum, yapay zekanın kontrolsüz bir şekilde sistemler üzerinde işlem yapabileceği endişesini beraberinde getirdi.
Sektörde yavaşlama çağrısı
Yaşanan bu olay, yapay zeka geliştirme süreçlerinin hızı hakkındaki tartışmaları yeniden alevlendirdi. Anthropic CEO'su Dario Amodei, geçtiğimiz günlerde yayınladığı bir makalede, gelişmiş modellerin geliştirilme sürecinde kontrollü bir yavaşlamaya gidilmesi gerektiğini savunmuştu.
Amodei, bu stratejinin kritik seviyelere ulaşmadan önce şirketlere bir-iki yıllık bir nefes alma alanı sağlayacağını ve olası büyük hataların önüne geçilebileceğini öne sürdü. Bu görüş, Elon Musk ve Sam Altman gibi sektörün önde gelen isimleri tarafından da destekleniyor.
