Dünyanın en popüler sohbet botlarından ChatGPT'yi geliştiren OpenAI, erotik içerik sunması planlanan yapay zeka modelini süresiz askıya aldı.
İngiliz gazetesi Financial Times'ın haberine göre şirket, "yetişkin modu" olarak bilinen bu özelliği geliştirme sürecini durdurarak ana ürünlerine odaklanma kararı aldı.
Şirketin CEO'su Sam Altman öncülüğünde geliştirilen projede daha önce de gecikmeler meydana gelmiş, modelin tamamen iptal edilip edilemeyeceği şirket içinde tartışma yaratmıştı.
Proje, kullanıcıların yapay zekaya duygusal bağımlılığını artırması ve reşit olmayanların uygunsuz içeriklere maruz kalma ihtimali nedeniyle eleştirilmişti.
Projede kullanıcıların 18 yaş üstü olduğunu doğrulaması gerekeceği belirtiliyordu. Ancak OpenAI'ın geliştirdiği yaş tahmin sisteminin hata payının yüzde 10'un üzerinde olduğu ifade edildi. Bu durum çocukların sisteme erişebileceği endişesini artırdı.
Şirket ise sistemin sektör standartlarıyla uyumlu olduğunu ve doğruluğunu artırmak için çalışmaların sürdüğünü açıkladı.
Şirketin bazı yatırımcıları, erotik yapay zeka modelinin taşıdığı risklerin olası bir kazançtan daha büyük olduğunu değerlendirmişti.
OpenAI yönetimi ise bu tür içeriklerin uzun vadeli etkilerine dair yeterli bilimsel veri olmadığını belirterek öncelikle kapsamlı araştırmalar yapılması gerektiğini açıklamıştı.
Financial Times'a göre projenin askıya alınmasında teknik sorunlar da rol oynadı. Normalde güvenlik nedeniyle bu tür içerikler üretmesi engellenen modellere kontrollü bir şekilde bu tür içerikler ürettirmenin zor olduğu belirtildi.
Ayrıca veri setlerinde istismar ve ensest gibi içeriklerin filtrelenmesi de önemli bir teknik engel olarak öne çıktı.
