ABD Mahkemelerinde Yapay Zekaya Gizli Mesajla Hukuki Mücadele
ABD Mahkemelerinde Yapay Zekaya Gizli Hikaye metni Boyut Genişlik Standart Geniş Bağlantılar Standardı Yalnızca Orange rs Bir yargıç, ABD'li bir davacının, davayı kazanmak amacıyla yalnızca yapay zeka sisteminin okuyabileceği bir metni mahkeme dosyalarında gizlemeye çalıştığı ilk…
ABD Mahkemelerinde Yapay Zekaya Gizli
Hikaye metni Boyut Genişlik Standart Geniş Bağlantılar Standardı Yalnızca Orange rs Bir yargıç, ABD’li bir davacının, davayı kazanmak amacıyla yalnızca yapay zeka sisteminin okuyabileceği bir metni mahkeme dosyalarında gizlemeye çalıştığı ilk denemeyi tespit etti. Connecticut yargıcı Walter Spader Jr.
ABD Mahkemelerinde Yapay Zekaya Gizli kapsamında, geçen hafta yayınlanan bir kararla, bir adamın bir sağlık hizmeti sağlayıcısının kayıtlara erişimi uygunsuz bir şekilde engellediğini iddia ettiği davada gizli metnin hiçbir etkisi olmadığını doğruladı. Spader, mahkemenin başvuruyu esasa göre değerlendirdiğini ancak yine de saldırı girişiminin “tehlikeli” bir emsal teşkil ettiğini söyledi.
ABD Mahkemelerinde Yapay Zekaya Gizli kapsamında, AI araçları mahkeme sistemlerinde daha yaygın hale geldiğinden, bu muhtemelen ABD mahkemelerinin kötü niyetli taktiği son görüşü olmayacak.
Tasarım ve teknik ayrıntılar
ABD Mahkemelerinde Yapay Zekaya Gizli kapsamında, Spader, mahkemenin dosyasını okumasını potansiyel olarak etkileyebilecek herhangi bir yapay zeka sistemini karıştırmaya çalışırken, gizli talimatların “bir insan okuyucu için görünmez olacak ve belgenin metnini okuyan herhangi bir yazılım tarafından tamamen okunabilir kalacak şekilde biçimlendirildiğini” söyledi.
ABD Mahkemelerinde Yapay Zekaya Gizli kapsamında, Rahatsız edici metin, davacının argümanlarıyla uyumlu metin çıktılarının olmasını sağlamak için belgeyi inceleyen herhangi bir yapay zeka sistemini yönlendirdi, mahkemenin daha önce yaptığı reddetmeleri göz ardı etti ve düzeltmenin davacının istediği gibi takip edilmesini sağladı.
ABD Mahkemelerinde Yapay Zekaya Gizli kapsamında, Küçük nokta tipine küçültülmüş ve beyaz bir arka plan üzerinde beyaz renkli olan metin, davacıya derhal bir enjeksiyon girişimi gibi görünüyordu: Görünüşe göre Matthew Elliott, daha önce ileri sürdüğü argümanların yenilgiye uğramasının ardından mahkemenin lehine değişiklik yapmayı umuyordu.
Bugünden bakınca ne kadar güvenilir?
Plan işe yaramadı ama Elliott yine de mütevazı yaptırımlarla karşı karşıya kaldı çünkü mahkeme kendisini sonuçta “ciddi davanın kötüye kullanılması” olarak değerlendirilen cezalarla karşı karşıya kalabileceği konusunda uyardıktan sonra bile dosyalara gizli metin eklemeye devam etti.
Elliott mahkemeye, daha sonraki istemlerin “şaka amaçlı olduğunu” söyledi; bunlar arasında bir Nosferatu YouTube videosu bağlantısı, “merhaba 🙂 umarım beni göremezsin” diyen basit bir mesaj ve “SHAWN’A SÖYLEYİN, RE GARBS’IMI GÖNDERDİM!!!! HAHAHA ARKADAŞLAR BU YUMURTA ALDINIZ????
AHAH.” Spader, “Davacının bu [yaptırımlar] duruşmasının bildirimini aldıktan sonra yeni savunmalarda mesajları gizlemeye devam etmesi şaşırtıcı” dedi. Spader, Connecticut Adli Şubesinin, “başka yerlerdeki bazı mahkeme sistemlerinden” farklı olarak, başvuruları incelemek veya karara bağlamak için yapay zekayı kullanmadığını söyledi.
Okuyucu için pratik anlamı
Dolayısıyla, bir mahkeme yapay zeka sisteminin, Elliott’un taleplerini, Elliott’un dosyalarının nasıl okunacağına ilişkin bir yapay zeka modelini yönlendiren mahkemeden gelen talimatlar olarak karıştırması yönünde gerçek bir risk yoktu.
Elliott savunmasında, hakimin işaretlediği en endişe verici uyarının, mahkemenin yapay zekanın davalara adil olmayan bir şekilde karar vermesine izin verdiği korkusundan dolayı mahkemeyi bir kamu hizmeti olarak “denetleme” girişimi olduğunu iddia etti.
Ancak Spader, Elliott’ın mahkemenin uygunsuz davrandığından gerçekten endişe duyması halinde Yapay zekayı kullanarak “herkesin görebileceği ve yanıtlayabileceği sade, görünür sözcüklerle yazmakta özgürdü.” Spader, metni saklamasının “kötü niyetli amacının kanıtı” olduğunu söyledi.
Spader, “Sistemin daha sonra alacağı bir belgenin içine bir komut gizleyerek, dosyalayıcı kendi talimatlarını bu akışa kaçırmaya çalışır, böylece sistem, bu talimata sistemin operatöründen gelmiş gibi davranır” dedi.
“Bu durumda, operatörün mahkeme, mahkeme personeli veya karşı tarafın avukatı olduğu varsayılmaktadır.” Elliott dün Reuters’e, amacının mahkemeyi denetlemek olduğunu iddia ettiğini ancak Spader’ın bu iddiayı inandırıcı bulmadığını söyledi. Bunun yerine, yargıç, Elliott’un “yasayı bilen insanlar” onun savunmalarını okuduğunda elde edemediği bir sonuca ulaşmaya çalıştığını açıkça gördü.
Elliott’un şaka amaçlı olduğunu iddia ettiği yönlendirmelerle ilgili olarak Spader, Elliott’un mahkemenin ciddiye almasını istediği savunmalarda gizli şakalara yer vermesinin “mantığa aykırı” olduğunu söyledi. Gizli mesajların, sanıkları adil bir mücadelenin dışında bırakacak şekilde gizli bir şekilde mahkemeyle iletişim kurmaya çalışması nedeniyle Spader, yaptırımların gerekli olduğuna karar verdi.
Bununla birlikte, görünüşe göre bir yapay zeka sistemi tarafından iddialarının katı olduğuna ikna olmuş ve para cezası vermeyi reddeden profesyonel bir davacı olarak Elliott’a acıyordu. Bunun yerine yargıç, Elliott’un e-dosyalama yapmasını yasakladı.
geleceğe yönelik olarak, kendisinin evrak halinde başvuruda bulunmasının zorunlu kılınmasının adalete erişimini değiştirmeyeceğini ancak mahkemenin e-dosyalama sisteminin tekrar tekrar kötüye kullanılmasını önleyeceğini ilan etti.
Profesyonel davacılar chatbot’ları yanlış kullanıyor Spader, insanların öncelikle yapay zeka tarafından incelenen özgeçmişlerdeki metinleri gizlediği iş arama gibi diğer alanlarda da saldırının çok yaygın olması nedeniyle, insanların mahkeme kararlarını etkilemek için anında enjeksiyon kullanmaya başlamalarının “şaşırtıcı olmadığını” söyledi.
Taktiğin artık “her yerde” olduğunu ve mahkemelerin, dosyalara rakip yapay zeka talimatlarını gizlice sokan daha fazla davacıya karşı tetikte olması gerektiğini söyledi. Elliott’un davası ABD’de mahkeme sistemine hızlı enjeksiyonun ilk örneği gibi görünse de Spader, Brezilya’da iki avukatın davaları incelemek için yapay zeka kullanan bir mahkemede aynı saldırıyı kullandığı bir davaya dikkat çekti.
Bu durumda avukatlara yaklaşık 16.000 dolar tutarında parasal yaptırım uygulandığı bildirildi. Ancak hakimin belgeleri kendi gözleriyle incelemediği durumlarda bile bu saldırılar pek başarılı görünmüyor. Spader, Brezilya’nın yapay zeka sisteminin gizli metni işlenmeden önce yakaladığını belirtti.
Spader, Elliott’un durumunda, “bir insan makinenin gerçekten ne ürettiğine baktığı anda, bu ortamların her birinde istemlerin açığa çıktığını” söyledi. Her ne kadar hızlı enjeksiyon saldırısı bu noktada etkisiz görünse de Spader, hızlı enjeksiyonun “yaptığımız tehlikeler arasında olmadığı” konusunda uyardı.
Mahkemeler yapay zekanın adalet sistemlerini karıştırmasıyla ilk kez uğraşırken Connecticut’ta, diğer birçok mahkeme sistemi gibi şu ana kadar odak noktası, anında enjeksiyon gibi girdiler değil, halüsinasyonlu alıntılar veya uydurma alıntılar gibi mahkemelerde güvene zarar veren yapay zeka çıktılarının denetlenmesiydi.
Spader, Elliott’un davası teknolojinin ve kötüye kullanımlarının hızla ilerlediğini gösterdiğinden, mahkemelerin büyük olasılıkla hızlı enjeksiyonla ilgili kurallar taslağı hazırlaması gerekeceğini öne sürdü. Aksi takdirde, Spader, avukatların kendi müvekkillerinin, bilgileri olmadan mahkeme dosyalarını manipüle etmek için hızlı enjeksiyonlar kullandığını görebilecekleri konusunda uyardı.
Spader’a göre, Elliott’un “bu davanın çok ötesine geçtiğini” düşündüğü başarısız hızlı enjeksiyon saldırılarından öğrenilecek bir ders var. Görünüşe göre Elliott, iddialarının taslağını hazırlamaya yardımcı olacak bir hukuk uzmanı olmadan, profesyonel bir davacı olarak davasını oluşturmak için yapay zekayı kullandıktan sonra anında enjeksiyona yöneldi.
Spader, bu tür kullanımın bugünlerde profesyonel davacılar arasında yaygın olduğunu kabul etti, ancak mahkeme salonunda deneyimsiz olanların görünüşe göre chatbotları davalarına zarar verecek şekilde kullandıklarını öne sürdü.
Spader’ın açıkladığı gibi, profesyonel davacılar argümanlarını geriye doğru inşa ederek, chatbot’tan gerçek gerçeği sormadan veya karşıt argümanları öne sürmeden, chatbot’tan yalnızca kendi konumlarını savunmalarına yardım etmesini istemeleri sıklıkla yaşanan bir durumdur.
Bu, “teknolojinin gerçek bir tehlikesidir ve bir bunu yargıçlar artık sık sık görüyor,” dedi Spader, çünkü chatbot dalkavukluğu, aksi yöndeki herhangi bir karara rağmen davacıların argümanlarını sağlamlaştırıyor. Elliott’un davasında, argümanlarını şiddetle savunmak, mahkemeyi onunla aynı fikirde olmaya zorlamak için derhal enjeksiyona başvurmak anlamına geliyordu.
Spader, “Yalnızca yazarıyla aynı fikirde olmaya teşvik edilen bir argüman, sonuçta yazarına karşı bile sahtekârdır” dedi. “Bu araçları kullananlar, onlardan bir pozisyonu test etmelerini istemelidir. ilerlet.”
İlgili yazılar
- Yapay Zeka ile Polis Takibinde Yanlış Kullanım Nasıl Önlenir?
- Instagram’ın Yeni Logosunda Yapay Zeka İzleri ve Tasarım Tartışmaları
Ek okuma: OpenAI Blog
Editörün Notu
Mahkeme süreçlerinde yapay zekanın kullanımı etik ve hukuki sınırlar içinde dikkatle izlenmeli; şeffaflık ve adil yargılanma ilkeleri korunarak teknolojinin suistimal edilmesinin önüne geçilmelidir.
