GenAI (Generative Artificial Intelligence) Riskleri Nelerdir?

Generative AI, son yılların en dikkat çekici gelişmelerinden biri oldu. GenAI, metin, görüntü, ses, 3D tasarım, kod gibi farklı veri türlerini işleyerek orijinal içerik oluşturan bir yapay zekâ teknolojisidir. Kullanıcı tarafında girilen isterlere göre farklı içerikler üretir.

Bu teknoloji, insan yaratıcılığını taklit etmek için gelişmiş algoritmalar ve modeller kullanır. Örneğin, metin yazmayı, görsel içerik geliştirmeyi veya müzik bestelemeyi kendi algoritmalarına göre yapabilir. Generative AI'ın amacı, makinelerin, insanların oluşturabileceklerine benzer içeriği etkili ve akıllı bir şekilde üretmesini sağlamaktır.

Küçükten büyüğe birçok insan, özellikle eğitim alan bireyler ve farklı meslek dallarından insanlar bu teknolojiyi kullanmaya başladı. Geniş bir kullanım yelpazesi arasında GenAI araçları, geliştiricilerin yazılım geliştirmesini kolaylaştırır, satış ekiplerine sıradan e-posta yazma konusunda yardımcı olur, pazarlamacıların düşük maliyetle benzersiz içerik üretmesine yardımcı olur ve ekiplerin yeni fikirler için beyin fırtınası yapmasına olanak tanır. 

Gözde olan bu teknolojiden faydalanmak isteyen SaaS sağlayıcıları da ücretli GenAI araçları sunmaktadır. GenAI uygulamalarının işyerlerinde geniş çapta benimsenmesi, yeni nesil siber güvenlik tehditlerine maruz kalma konusundaki endişeleri hızla artırmaktadır. Günümüzde tehdit aktörleri, insan kimlikleri, insan olmayan kimlikler ve SaaS uygulamalarındaki yanlış yapılandırmalar gibi kuruluşlar içindeki en zayıf halkalara giderek daha fazla odaklanıyor. Kuruluşlar yeni nesil SaaS güvenlik tehditleriyle baş edebilecek güvenlik araçlarına sahip olup olmadıklarını yeniden değerlendirmelidirler.

ChatGPT, GenAI'nin riskleri sorulduğunda şu yanıtı vermektedir: "ChatGPT gibi AI modellerine gönderilen veriler, model eğitimi ve iyileştirme amacıyla kullanılabilir ve potansiyel olarak bu modeller üzerinde çalışan araştırmacıların veya geliştiricilerin eline geçebilir."  Bu nedenle ChatGPT artık kullanıcıları oturum açtıklarında "Hassas bilgileri paylaşmayın" şeklinde uyarmaktadır.

Bu teknolojik yeniliğin sağladığı kolaylıkla beraber getirdiği bazı riskler aşağıda verildiği gibidir:

- AI modellerine müşteri bilgileri, finansal veriler, fikri mülkiyet, gibi hassas verilerin gönderilmesi
- Bulut tabanlı GenAI sistemlerinde dahili bilgileri paylaşan kuruluşların saldırı yüzeyinin genişlemesi
- IP sızıntısı tehlikesi
- Kullanıcıların random parola oluşturmak için bu araçları kullanması
- Siber saldırganlara sosyal mühendislik verileri için kullanılabilecek istatistikler oluşturmak
- GenAI kullanımına ilişkin açıkça tanımlanmış politikaların bulunmaması
- Uyumluluk ve hükümet gerekliliklerini karşılamaya yönelik zorluklar
- Kurumlarda Yapay Zekâ sorumlularının bulunmaması ve bu ihtiyacın doğması
- Bu teknolojinin iş dışında kullanılsa bile hibrit çalışma ile iş ve kişisel yaşam arasındaki çizgilerin artık bulanıklaşması sonucunda getirdiği riskler
- Teknolojinin hala gelişme aşamasında olması nedeniyle yanlış veya teyitsiz bilgilerin yayılması
- Kişisel resimlerin ve seslerin uygulamaya yüklenmesi sonucunda oltalama saldırılarının gerçekleşmesi

Bu risklere dikkat ederek teknolojinin getirdiği yeniliklerinden yaralanmayı faydalı buluyoruz.

Not: Bu makalenin yazımında üretken yapay zekadan yararlanılmıştır :)

Kaynak: The Hacker News

Yazar: Nazlıcan Hatice Tanın/ Denetim Hizmetleri ve Teknolojileri Uzmanı