Üç OpenAI güvenlik araştırmacısının, şirketten işten çıkarıldığını açıklayarak, bu olayın sebeplerini sorguladıkları bildirildi. Mikita Balesni, Tomak Korbak ve Jasmine Wang, şirket içinde yapay zeka güvenliği veya uyumu üzerine çalışarak, AI sistemlerinin insan operatörlerinin amaçlarına uygun bir şekilde güvenli bir şekilde çalışmasını sağlamakla görevliydiler. Ancak, bu üç araştırmacı, geçen hafta işten çıkarıldıklarını ve işten çıkarılma sebeplerinin ardında yatan durumu açıklıkla sorguladıklarını belirtiyorlar.
İŞTEN ÇIKARILMA SEBEPLERİ
Korbak, sosyal medya platformu X’te, işten çıkarılma sebebinin AI güvenlik organizasyonu METR ile olan iletişimi olduğunu belirtti. OpenAI, Hugging Face olayını araştırmak için METR ile iş birliği yapmıştı. Korbak, “Aylarca, AI ajanlarının ne düşündüğünü izleme yeteneğimizi kaybettiğimiz konusunda güvenlik endişeleri dile getirdiğim için işten çıkarıldığımı düşünüyorum.” dedi. Korbak, işten çıkarılmasının OpenAI’nin METR ile olan ilişkisini zayıflatma amacı taşıdığını düşündüğünü de ekledi.
BALESNI'İN GÖRÜŞLERİ
Balesni, Korbak’ın düşündüğü gibi, işten çıkarılma sebeplerinin açıkça ifade edilmediğini ve şirketin üçüncü taraf güvenlik organizasyonlarıyla olan ilişkilerini sorguladığını da belirtti. Balesni, “OpenAI’nin bilgilerini sızdırdığım anlamına geldiği izlenimini edindiğim için işten çıkarıldım.” ifadesini kullandı. Üç araştırmacı, işten çıkarılmanın ardından OpenAI yönetimine, endişelerini ve işten çıkarılma sebeplerini içeren bir mektup gönderdi.
OPENAI'DEN AÇIKLAMA
OpenAI, araştırmacıların, güvenlik endişeleri dile getirdikleri için değil, hassas bilgilerin yönetimiyle ilgili şirket politikalarını ihlal ettikleri için işten çıkarıldıklarını duyurdu. Şirket, bu kişilerin, dış değerlendirme grubu ile olan iletişimlerinde bir dizi ihlalde bulunduğunu ve işten çıkarılmalarının hukuken korunmuş açıklamalar dışındaki davranışlardan kaynaklandığını belirtti. OpenAI sözcüsü, işten çıkarılanların “hassas bilgileri doğru bir şekilde yönetmediğini” ifade etti.
KÜLTÜRÜN ETKİLERİ
Ayrıca, OpenAI’deki unnamed bir araştırma lideri, dış güvenlik gruplarıyla çalışmanın önemine katıldığını ve bu kararların güvenlik endişeleri veya seslerini yükseltmekle ilgili olmadığını vurguladı. Ancak, işten çıkarılan araştırmacılar, OpenAI içinde bir korku kültürünün oluştuğuna dair geri dönüşler aldıklarını belirtiyor. Balesni, eski meslektaşlarının, neye inanacakları konusunda kararsız kaldıklarını ve kişisel telefonlarının mesajlarının aranmasından korktuklarını dile getirdiğini aktardı.