Open AI’dan ilginç ChatGPT uyarısı

Şirketin internet sitesinden yapılan açıklamada, ChatGPT ve yapay zeka modeliyle sohbet etmek için sunulan seslendirme seçeneği üzerinde yürütülen güvenlik çalışmalarına ait ayrıntılara yer verildi.

Yürütülen birinci incelemeler sonucu, seslendirme seçeneğinin, girdilere verdiği 232 milisaniyelik cevap mühletinin ortalama bir insanın konuşma sırasındaki reaksiyon müddetine epeyce yakın olduğu belirtilen açıklamada, kullanıcıların, “gerçekçi ve doğal” olması nedeniyle bu teknolojiyle duygusal bağ kurduklarını gösteren bir lisan kullandıkları kaydedildi.

Açıklamada, yapay zeka modelinin seslendirme özelliğiyle kurulan duygusal bağın “bağımlılığa” yol açabileceği konusunda ihtarda bulunuldu.

“Sesli Mod”un, yalnız bireylere yarar sağlayabileceği fakat insan bağlarını etkileyebileceği tabir edilen açıklamada, söylediği kelam edilen özelliğin, ortalarında yetkisiz ses üretiminin de bulunduğu “yeni riskler” sunduğu da aktarıldı.

Açıklamada, teknolojinin kullanıcılar için vazifeleri tamamlama ve konuşmalarla ilgili detayları hatırlama yeteneğinin “aşırı itimat ve bağımlılık” yaratabileceği kaydedildi.