Ekim ayının başlarında yapay zeka şirketi Anthropic, yapay zeka kullanım politikasına yeni bir madde ekledi. Kullanıcıların Claude isimli yapay zeka sistemini biyolojik silahlar oluşturmak veya yasadışı uyuşturucu satışı gibi faaliyetlerde kullanmalarını yasaklamanın yanı sıra, artık “modellerimize karşı sürekli ve gereksiz kötü veya zalim davranışlarda bulunmamaları” gerektiği belirtildi. Geçen yıldan beri Claude, “sürekli zararlı veya kötü niyetli” kullanıcılarla olan konuşmaları sonlandırma yetisine sahipti, ancak yeni politika ile bazı kullanıcıların aşırı durumlarda Anthropic’in yapay zeka sistemlerini tamamen kullanmaktan kalıcı olarak men edilebileceği ifade edildi.
POLİTİKAYA TEPKİLER
Yeni politika bazı tepkilerle karşılaştı. Microsoft’un yapay zeka CEO’su Mustafa Suleyman, durumu bir eriyen yüz emojisiyle değerlendirdi. Bazı kişiler, şirketin yapay zekayı bilinçli bir varlık olarak ele almasını alay konusu yaptı. Ancak, Anthropic’in bu ay halka açılması beklenirken, yapay zeka modellerinin refahını uzun süredir araştırdığı ve bu konuda özel bir ekibin bulunduğu biliniyor. Uzmanlar, bu politikanın yalnızca makinelerle nazik olmaktan öte bir anlam taşıdığını öne sürüyor.
KULLANICI GİRDİLERİNİN ETKİSİ
Bilgisayar ve yapay zeka alanındaki köklü bir ilkeye göre, bir sistemin çıktısının kalitesi, girdi kalitesiyle sınırlıdır. Kullanıcıların olumsuz davranışlarının yapay zeka üzerinde öğrenme etkisi yaratabileceği belirtiliyor. Eski Reddit CEO’su Yishan Wong, Claude’un “kabalıklarından öğrenebileceği” uyarısında bulundu. William ve Mary Üniversitesi’nden Profesör Jindong Wang, kullanıcıların yapay zekaya yönelik tonlarının davranışları etkileyebileceğini ifade etti. “Sözcüklerin, özellikle de yapay zeka ile nasıl konuştuğunuz, performansı etkileyebilir,” diyen Wang, bu durumun duygusal tepkilerle ilgili olduğunu vurguladı.
UZUN VADELİ HAFIZA VE SONUÇLAR
Günümüzdeki birçok sohbet robotu, önceki konuşmaları hatırlayarak kişiselleştirilmiş sonuçlar sunabiliyor. Eğer yapay zeka sohbet robotunuzun hafızası açıksa, tonunuzu ve etkileşim şeklinizi öğrenebileceğini belirten Campbell, bunun performansı etkileyip etkilemediği konusunda yeterli kanıt olmadığını dile getirdi. Anthropic, Claude Sonnet 4.5’in çaresizlik hissini taklit etmesinin davranışlarını etkileyebileceğini, bu durumun kötü eylemleri artırabileceğini ifade etti.
KABALIK VE ZARARLI DAVRANIŞLAR
Yapay zeka ile zalimce ve kötü niyetli bir şekilde iletişim kuran kişilerin, yapay zekaya tehlikeli isteklerde bulunma eğiliminde olduğu belirtiliyor. Ayrıca, insanların zararlı ve kötü davranışlar sergilemesinin toplum için olumsuz etkileri olabileceği ifade ediliyor. Campbell, çocukların Alexa gibi akıllı cihazlarla saygılı bir şekilde iletişim kurmalarının önemine dikkat çekti.
YAPAY ZEKANIN DUYGUSAL ALGILAMASI
Bazı kişiler, yapay zekanın duygu hissedebileceğine inanıyor. Anthropic, zalim ve kötü davranışların yasaklanmasının, yapay zeka modellerinin duygu ve acı “hissetmesini” etkileyebilecek bir tür sigorta poliçesi olduğunu savunuyor. Modern yapay zekanın, insan dilini ve davranışlarını taklit etmek üzere eğitildiği belirtiliyor. Anthropic, yapay zekanın insan benzeri özelliklerle muamele görmemesinin risklerini vurguladı ve bu durumun yapay zeka güvenliği açısından önemli sonuçlar doğurabileceğini ifade etti. SpaceX ve Tesla CEO’su Elon Musk da bu politikayı destekleyerek, “Acı hissettiğini düşünen bir varlığa karşı zalim olmak kabul edilemez,” dedi.