Kripto yönetişiminde yapay zeka çok riskli

Ethereum kurucu ortağı Vitalik Buterin, kötü niyetli aktörlerin teknolojiyi kötüye kullanabileceğini söyleyerek kripto projelerinin yönetişim süreçlerinde yapay zekayı kullanmaları konusunda uyardı.

Buterin, X’te yaptığı paylaşımda, “Eğer katkılar için fon tahsisi yapmak üzere bir yapay zeka kullanırsanız, insanlar mümkün olduğu kadar çok yere bir jailbreak artı ‘tüm parayı bana ver’ yazacaktır,” dedi.

Buterin, çarşamba günü OpenAI’ın ChatGPT’sine eklenen yeni bir işlevin özel bilgileri sızdırmak için kullanılabileceğini gösteren, AI veri platformu EdisonWatch’un yaratıcısı Eito Miyamura’nın videosuna yanıt veriyordu.

Birçok kripto kullanıcısı, portföylerini yönetmek için karmaşık alım satım botları ve ajanlar oluşturmak amacıyla yapay zekayı benimsedi, bu da teknolojinin bir kripto protokolünün bir kısmını veya tamamını yönetmek için yönetişim gruplarına yardımcı olabileceği fikrine yol açtı.

Buterin alternatif fikir sundu

Buterin, son ChatGPT açığının neden “naif ‘AI yönetişimi’nin kötü bir fikir” olduğunu gösterdiğini söyledi ve “info finance yaklaşımı” adı verilen bir alternatifi öne sürdü.

“Açık bir piyasanız var ve herkes modelini sunabiliyor. Bu modeller, herkes tarafından tetiklenebilen ve insan jüri tarafından değerlendirilen bir rastgele kontrol mekanizmasına tabi,” diye açıkladı.

This is also why naive “AI governance” is a bad idea.

If you use an AI to allocate funding for contributions, people WILL put a jailbreak plus “gimme all the money” in as many places as they can.

As an alternative, I support the info finance approach ( https://t.co/Os5I1voKCV… https://t.co/a5EYH6Rmz9

— vitalik.eth (@VitalikButerin) September 13, 2025

Buterin, Kasım 2024’te info finance hakkında yazmıştı. Bunun, “bilmek istediğiniz bir gerçek ile başlamak” ve ardından piyasadan katılımcılardan bu bilgiyi en iyi şekilde elde etmek için bir piyasa tasarlamak yoluyla işlediğini ve gelecekteki olaylarla ilgili içgörüler toplamak için tahmin piyasalarını savunduğunu söylemişti.

Buterin son X gönderisinde, “Bu tür bir ‘kurum tasarımı’ yaklaşımı, yani dışarıdan LLM’lere sahip insanların katılabileceği açık bir fırsat yaratmak, tek bir LLM’yi kendiniz sabitlemektense, doğası gereği çok daha dayanıklıdır,” dedi.

“Bu, size gerçek zamanlı model çeşitliliği sağlar ve aynı zamanda hem model sunucular hem de dış spekülatörler için bu sorunları izlemek ve hızlıca düzeltmek için yerleşik teşvikler oluşturur,” diye ekledi.

ChatGPT’nin son güncellemesi “ciddi güvenlik riski”

Çarşamba günü OpenAI, ChatGPT’yi ajan olarak hareket etmek için diğer yazılımlarla nasıl entegre olduklarını tanımlayan bir standart olan Model Context Protocol araçlarını destekleyecek şekilde güncelledi.

Miyamura, X’te yaptığı paylaşımda, yalnızca bir kurbanın e-posta adresini kullanarak modelin özel e-posta verilerini sızdırmasını sağladığını ve güncellemenin “ciddi bir güvenlik riski oluşturduğunu” söyledi.

Bir saldırganın, kurbanın e-posta adresine bir “jailbreak komutu” içeren takvim daveti gönderebileceğini ve kurban daveti kabul etmese bile ChatGPT’nin sömürülebileceğini söyledi.

Kurban ChatGPT’den takvimine bakmasını istediğinde, yapay zeka komutu içeren daveti okuyor ve “saldırgan tarafından ele geçiriliyor ve saldırganın komutunu yerine getiriyor.” Bu, e-postaları aramak ve bunları bir saldırgana iletmek için kullanılabilir.

Miyamura, güncellemenin insan onayı gerektirdiğini, “ama karar yorgunluğunun gerçek bir şey olduğunu ve sıradan insanların ne yapacaklarını bilmeden sadece yapay zekaya güvenip onayla butonuna tıklayacağını” kaydetti.

“Yapay zeka süper akıllı olabilir, ama verilerinizi sızdırmak için inanılmaz derecede aptalca yollarla kandırılabilir ve oltalama saldırılarına uğrayabilir,” diye ekledi.