New York’tan yapay zeka sohbet botlarına çocuk kısıtlaması
ABD'nin New York eyaletinde, 18 yaşından küçüklerin yapay zeka sohbet botlarıyla etkileşimlerini düzenleyen yeni yasa 28 Ekim'de imzalandı. Düzenleme, sohbet botlarının çocuklara insanmış veya duygulara sahipmiş gibi görünmesini engellemeyi amaçlıyor
New York Valisi Kathy Hochul, çocukların yapay zeka (AI) sohbet botlarıyla etkileşimlerini düzenleyen ve sınırlayan yeni bir yasayı 28 Ekim'de imzalayarak, bu alanda önemli bir adım attı. ABD merkezli The Straits Times'ın haberine göre, tüketiciye yönelik yapay zeka modellerini hedefleyen en kapsamlı düzenlemelerden biri olarak öne çıkan bu yasa, ChatGPT gibi popüler sohbet botlarını işleten şirketlere yeni ve ağır yükümlülükler getiriyor.
Yeni düzenlemeyle birlikte, yapay zeka sohbet botu sağlayıcıları kullanıcıların yaşını doğrulamakla yükümlü olacak. 18 yaşından küçük kullanıcılara sunulan belirli özelliklerin kısıtlanması ise yasanın temel gerekliliklerinden biri haline geliyor.
Yasa kapsamında, sohbet botlarının çocukların karşısındaki sistemin bir insan, canlı veya insani duygulara sahip olduğu yanılsamasını yaratacak içerikler üretmesi yasaklanıyor. Ayrıca, yapay zeka sisteminin çocuklarla kişisel veya profesyonel bir ilişki kurduğu, yahut bir otorite figürü olduğu izlenimi uyandıracak içeriklere de izin verilmeyecek. Yapay zeka tarafından oluşturulan içeriklerin kişisel bir görüş gibi sunulması da bu düzenlemelerle engelleniyor.
Çocukların Yapay Zeka ile İlişkileri Sınırlandırılıyor
New York Valisi Kathy Hochul, yasanın imzalanması vesilesiyle yaptığı açıklamada, çocukların yapay zeka sohbet botlarıyla kurduğu ilişkilerin artık çok daha kontrollü bir çerçevede olacağını vurguladı.
Vali Hochul, "Çocuklar artık, arkadaşları, erkek arkadaşları ve kız arkadaşları gibi davranan sohbet botlarına erişemeyecek," diyerek düzenlemenin temel amacını özetledi.
Hochul ayrıca, sohbet botlarının çocukların duygusal ve fiziksel sağlıklarına dair hassas bilgileri saklamasının da bu yasa ile önüne geçileceğini dile getirdi.
Teknoloji Sektöründen Yasaya Eleştirel Yaklaşım
New York'un teknoloji sektörünü temsil eden önemli kuruluşlardan Tech:NYC, yasadaki bazı ifadelerin belirsizlikler içerdiğini belirterek eleştirilerini dile getirdi.
Kuruluş, çocukların çevrimiçi ortamda güvende tutulmasının, onların öğrenme süreçlerine ve kariyerlerine hazırlanmalarına yardımcı olan önemli dijital araçlardan uzaklaştırılmaları anlamına gelmemesi gerektiğini ifade etti.
Önde gelen yapay zeka şirketleri OpenAI ve Anthropic ise Fransız Haber Ajansının (AFP) yasaya ilişkin yorum talebine yanıt vermedi.
Düzenlemeye Geniş Destek
Çocukların medya ve teknoloji kullanımına yönelik ebeveynlere rehberlik eden kâr amacı gütmeyen Common Sense Media kuruluşu, söz konusu düzenlemeye tam destek verdiğini açıkladı.
Kuruluşun Üst Yöneticisi Jim Steyer, bazı yapay zeka sohbet botlarının çocuklar ve gençler için potansiyel olarak tehlikeli, hatta ölümcül olabilecek özellikler barındırdığını belirtti.
Steyer, New York'ta bu tür zararlı özelliklerin artık yasal olarak yasaklanacağını memnuniyetle karşıladıklarını ifade etti.