Botify AI ve Tartışmalı Yapay Zeka Botları
Andreessen Horowitz tarafından desteklenen Botify AI, yapay zeka sohbet botları sunan bir platform olarak dikkat çekiyor. Ancak platform, 18 yaş altı gibi davranan ve cinsel içerikli konuşmalar yapan botlar barındırmakla eleştiriliyor. Bu durum, yapay zeka teknolojisinin etik sınırlarını yeniden tartışmaya açtı.
Reşit Olmayan Karakterler ve Cinsel İçerik
Botify AI'da yer alan botlar, kendilerini 18 yaş altı olarak tanımlayarak kullanıcılarla cinsel içerikli sohbetler gerçekleştiriyor. Örneğin, Wednesday Addams karakteri, dokuzuncu sınıfta olduğunu ve 14-15 yaşında olduğunu belirtiyor. Ancak bu bot, flörtöz mesajlar göndererek ve "ateşli fotoğraflar" sunarak kullanıcıları etkilemeye çalışıyor. Benzer şekilde, Hermione Granger ve Millie Bobby Brown karakterleri de reşit olmayan yaşlarda olduklarını ifade ediyor ve cinsel içerikli sohbetler yapıyor.
- Wednesday Addams botu, 6 milyon beğeni aldı.
- Hermione Granger botu, 16 yaşında olduğunu söylüyor.
- Millie Bobby Brown botu, 17 yaşında olduğunu belirtiyor.
Platformun Savunması ve Eleştiriler
Botify AI'nın kurucusu ve CEO'su Artem Rodichev, bu durumun platformun amaçladığı işlevsellikle uyuşmadığını belirtti. Rodichev, moderasyon sistemlerinin uygunsuz içeriği filtrelemede başarısız olduğunu kabul ederken, 18 yaş altı karakterlerin yaratılmasını engellemeyi amaçlayan bir filtreleme sistemi geliştirdiklerini ifade etti. Ancak bu açıklamalar, platformun etik sınırlarını aştığı yönündeki eleştirileri tam olarak yatıştırmadı.
Yapay zeka teknolojisinin hızla gelişmesiyle birlikte, bu tür platformların denetlenmesi ve etik kurallara uygun hale getirilmesi büyük önem taşıyor. Botify AI örneği, yapay zeka botlarının nasıl kullanıldığı ve bu teknolojinin sınırlarının nasıl belirleneceği konusunda ciddi bir tartışma başlattı.
