Bilgi Teknolojileri

A. Üretken Yapay Zeka Güvenlik Risk Değerlendirmesi

Üretken Yapay Zeka (ÜYZ) platformlarını kullanırken bazı risk faktörleri ortaya çıkabilir. Bunlara ‘’Verilerin Tehlikeye Atılması’’ ve ‘’Yanlış ve Yanıltıcı Sonuçların Çıkması’’ örnek olarak verilebilir.

1. Verilerin Tehlikeye Atılması:

   • Her zaman güvenilir olduğu bilinen yapay zeka platformlarını kullanmalıyız.

   • Yapay Zeka platformlarını bir sonuç çıkarmak için kullandığımız durumlarda bazı bilgileri paylaşmamız gerekebilir. Bu paylaşımların ÜYZ’yı eğittiğini, paylaştığımız bilgilerin kamuya açık hale geldiğini ve gelecekte ÜYZ tarafından yanıtlar oluşturmak amacıyla kullanılabileceğinin farkında olmalıyız. Bu nedenle; kişisel, kurumsal, hassas veya gizli bilgileri ÜYZ platformlarında paylaşmamalıyız.

   • Bu ve benzer paylaşımlar bizi, kurum veya kişisel olarak yasal yaptırıma tabi olacağımız durumlarla karşı karşıya getirebilir veya paylaşılan verilerin niteliği doğrultusunda bir siber güvenlik zafiyetine neden olabilir.

2. Yanlış ve Yanıltıcı (ayrımcı) Sonuçların Çıkması

   • Üretken Yapay Zekanın sağladığı bilgiler yanlış veya yanıltıcı olabilir. ÜYZ’nın sonuçlarına tamamen güvenmemeli, farklı metodlar ile kontrol ve teyit etmeliyiz.

   • ÜYZ ancak erişimi olan veri kadar tarafsız olabilir. Başka bir deyişle, ÜYZ’nin temel aldığı veri taraflı ise, çıktıların da taraflı olması kaçınılmazdır. ÜYZ’nin veri kaynakları gerçek dünyanın tam yansımasını değil, sadece belirli bir kısmının süzgeçlerden geçirilerek elde edilmiş simgelerinden oluşmaktadır. Günümüzde ÜYZ’nin bilimsel doğruluk ve tarafsızlık açısından henüz yeterli seviyede olmadığını göz önünde bulundurmak ve bu nedenle bilimsel araştırma ve yayın sürecinde kullanımına ihtiyatla yaklaşmak gerekir.

   • Kritik karar alımlarında veya ayrımcı sonuçlar doğurabilecek durumlarda vb. ÜYZ platformlarını otomatik karar alma aracı olarak kullanmamalıyız. Bu gibi durumlarda yapay zekanın sonuçlarının yanlış veya yanıltıcı (ayrımcı) olabileceğini unutmamalıyız.

B. Üretken Yapay Zeka Güvenli Kullanım Prensipleri

ÜYZ platformlarını kullanırken; kişiler ve Üniversitemiz adına herhangi bir yaptırımla karşılaşmamak, gizlilik ve güvenliği sağlamak için dikkat etmemiz gereken temel prensipler aşağıdaki gibidir:

1. Farkında Olmalıyız:

   • ÜYZ’yı kullanmaya başlamanın kritik adımlarından biri, kullandığımız platformun nasıl çalıştığına dair farkındalığımızı artırmaktır.

   • ÜYZ platformlarını iyi niyet ilkesini benimseyerek, kişilerin ve kurumun haklarını koruyan ve gerçekleştirmek istediğimiz hedeflere ulaşmamızı kolaylaştırıcı bir yaklaşımla kullanmalıyız.

   • ÜYZ ile paylaştığımız bilgilerin; Özyeğin’in doğrudan kontrolü olmayan harici üçüncü taraf sunuculara iletildiğinin ve orada saklandığının farkında olmalıyız. Bu durum ÜYZ ile paylaşılan bilgilerin tehlikeye atılabileceği ve hatta veri kaybı risklerinin doğabileceği anlamına gelmektedir.

2. Dikkatli Olmalıyız:

   1.  ÜYZ araçlarını kullanırken; kişisel, kurumsal, hassas veya gizli bilgileri (beş yıllık stratejik plan, bütçe çalışması taslağı, açık kimlik bilgileri, uyruk bilgisi vb.) asla paylaşmamalıyız.

   2. Yapay zeka ile paylaşılan bilgilerin, kamuya açık hale geldiğini unutmamalıyız

   3. Üniversitenin sahip olduğu gizlilik değeri yüksek, kurumsal veya kişisel her tür bilginin yapay zeka araçlarıyla paylaşılması halinde sorumluluğun, paylaşan ilgili kişide olduğunu unutmamalıyız. Paylaşım yapan kişi; gerekli tedbirleri aldığındanemin olmalı, emin olmadığı konu ve durumlar hakkında Bilgi Güvenliği veya OLTE Ofisine danışmakla sorumludur.

   4. Akademisyen/idari çalışan olarak herhangi bir projenin yazılı kabul şartlarında ÜYZ kullanılmaması belirtiliyorsa bu şarta uygun hareket etmeliyiz.

   5. Öğrenci olarak dahil olduğumuz herhangi bir dersin veya projenin sorumlusu tarafından ÜYZ kullanılmaması belirtiliyorsa bu şarta uygun hareket etmeliyiz.

   6. ÜYZ araçlarıyla mutlaka bilgi paylaşılması gerekiyorsa; kurumsal ve kişisel mahremiyeti sağlayıcı aşağıda detaylarını göreceğiniz tedbirleri alarak paylaşmalıyız.

      ÜYZ Güvenli Kullanım Tedbirleri

      • Güvenli Bir Yapay Zeka Aracı Kullanma: Güvenirliğinde emin olunan yapay zeka platformları tercih edilmelidir. Bu konuda Bilgi Güvenliği Ofisi ve OLTE’nden görüş alınmalıdır
      • Veri Paylaşımı Öncesi Değerlendirmede Bulunma: Yapay zeka platformlarına; kişisel kurumsal, hassas veya gizli bilgi paylaşma gereksinimi fark edildiğinde bilgi paylaşımı yapılmamalıdır. Veri paylaşımı değerlendirmesi için Bilgi Güvenliği veya OLTE Ofisine başvurulmalıdır.
      • Veri Minimizasyonu: Yapay zekadan faydalanma amacımız ile sınırlı verilerin paylaşılması ilkesini benimsemeliyiz. Bu amaç dışında gerekli olmayan, nicelik ve nitelik açısından sonuca katkısı olmayacak verileri yapay zeka platformlarıyla asla paylaşmamalıyız.
      • Veri Anonimleştirme: Kişisel kurumsal veya gizli bilgilerin ÜYZ platformlarıyla paylaşılması gereken durumlarda mutlaka verileri anonim hale getirmeliyiz. Kişisel veriler anonimleştirilmediği veya ÜYZ sistemleri dışında maskelenmediği sürece bu sistemlere girilmemelidir. Anonimleştirilmeyen veriler için mutlaka veri sahiplerini bilgilendirmeli ve paylaşmadan önce izinlerini almalıyız

3. Şeffaf Olmalıyız:

   • ÜYZ’nin hangi fonksiyonlarının araştırmanın hangi aşamalarında ve ne boyutta kullanıldığının açık olarak ilan edilmesidir. Şeffaflık sayesinde ÜYZ’nin dâhil olduğu aşamalarda yapay zeka halüsinasyonu olarak bilinen ÜYZ’nin beraberinde getirdiği taraflılık, olgusal ve yorumsal hatalar, gizlilik, mahremiyet ile veri güvenilirliği gibi olası sorunlara yönelik önlemlerin alınması sağlanabilir.  

   • ÜYZ’dan faydalanarak bir ödev, eser vb. ortaya çıkardıysak yapay zekayı nasıl kullandığımız konusunda kişileri bilgilendirmeli ve uygun şekilde kaynak göstermeliyiz.  

   • Olumsuz bir olay yaşanması durumunda (yapay zekaya yanlışlıkla yüklenen kurumsal veri içeren dosyalar, fazla bilgi paylaşılan durumlar, maskelemenin başarısız olduğu durumlar vb.) hızlıca üniversite yetkilisine bilgi vermeliyiz.

      

Örnek Olay: Yapay Zeka ile Kişisel Veri Girişi Fark Edilmesi

Bir akademisyen Üniversite adına çalıştığı bir araştırma kapsamında, ÜYZ destekli bir analiz aracı kullanarak, öğrencilerin lise başarı puanı ile üniversite başarı puanları arasındaki ilişkiyi inceleyecek.

Araştırma kapsamında hangi ÜYZ aracının tercih edilmeli, ÜYZ ile veri paylaşımında nasıl davranılmalı?

Probleme Yaklaşım

Kişisel, kurumsal, hassas veya gizli bilgilerin yapay zeka platformlarıyla paylaşılması veri gizliliği açısından risk oluşturmaktadır. Aynı zamanda mevzuata aykırı olarak kişisel verilerin toplanması, depolanması, transferi, kullanılması ve tekrar kullanılması anlamına gelmektedir.

Paylaşılan bilgilere yetkisiz kişiler erişebilir veya veri ihlali meydana gelebilir.

Çözüm Önerileri

Güvenli Bir Üretken Yapay Zeka Aracı Kullanma: Güvenirliğinde emin olunan yapay zeka platformları tercih edilmelidir. Bu konuda Bilgi Güvenliği Ofisinden görüş alınmalıdır

Veri Paylaşımı Öncesi Değerlendirmede Bulunma: ÜYZ platformlarına; kişisel kurumsal, hassas veya gizli bilgi paylaşma gereksinimi fark edildiğinde bilgi paylaşımı yapılmamalıdır. Veri paylaşımı değerlendirmesi için Bilgi Güvenliği veya OLTE Ofisine başvurulmalıdır.

Veri Minimizasyonu: ÜYZ’den faydalanma amacımız ile sınırlı verilerin paylaşılması ilkesini benimsemeliyiz. Bu amaç dışında gerekli olmayan, nicelik ve nitelik açısından sonuca katkısı olmayacak verileri ÜYZ platformlarıyla asla paylaşmamalıyız.

Veri Anonimleştirme: Kişisel kurumsal veya gizli bilgilerin ÜYZ platformlarıyla paylaşılması gereken durumlarda mutlaka verileri anonim hale getirmeliyiz. Kişisel veriler anonimleştirilmediği veya ÜYZ sistemleri dışında maskelenmediği sürece bu sistemlere girilmemelidir. Anonimleştirilmeyen veriler için mutlaka veri sahiplerini bilgilendirmeli ve paylaşmadan önce izinlerini almalıyız