KAZANIM • RK1.1.2
Robotik kodlamaya ilişkin etik ve güvenlik-gizlilik önlemlerini yönetebilme.
- Robotik kodlamada etik ve güvenlik-gizlilik risklerini belirler.
- Robotik kodlamada etik ve güvenlik-gizlilik önlemlerini belirler.
- Robotik kodlamada etik ilkelerin ve bilgi güvenliğinin-gizliliğinin temel bileşenlerini ayırt eder.
- Robotik kodlama uygulamalarını etik ilkeler ile güvenlik-gizlilik açısından değerlendirir.
🧭 Teknolojiyi İyilik İçin Kullanmak: Bir robotun motorunu döndürmek veya sensörünü kodlamak işin sadece teknik boyutudur. Asıl büyük ustalık; tasarladığımız sistemin insana ve doğaya zarar vermeden, gizliliğe saygılı ve güvenli çalışmasını sağlamaktır. Unutma: Ahlaki sınırları çizilmemiş bir teknoloji, yarardan çok zarar getirebilir!
Anahtar Kavramlar: Robotik Etik Bilgi Güvenliği Kişisel Gizlilik G-B-E Üçlüsü Acil Durdurma (Kill Switch) Açık Rıza Asimov Robot Yasaları
1) Temel Kavramlar: Etik, Güvenlik ve Gizlilik
Robotik kodlama projeleri geliştirirken üç temel ilkeyi birbirinden net biçimde ayırt etmeliyiz:
| Kavram | Tanım | Robotik Sistemdeki Karşılığı |
|---|---|---|
| Etik (Ahlak) | Doğru ile yanlışı ayıran, insanlığa yarar sağlayan ahlaki ilkeler bütünüdür. | Robotun kararlarında insan hayatını her şeyin üstünde tutması; ayrımcılık yapmaması. |
| Güvenlik | Sistemin hem fiziksel kazalara hem de kötü niyetli siber saldırılara karşı korunmasıdır. | Robot kolunun insanı ezmesini önleyen sensörler; karta yetkisiz erişimi engelleyen şifreler. |
| Gizlilik | Kullanıcıya ait özel bilgilerin (fotoğraf, ses, konum) izinsiz toplanmaması ve saklanmasıdır. | Robot süpürgenin ev haritasını satmaması; sesli asistanın ortamı gizlice dinlememesi. |
2) Robotik Kodlamada Karşılaşılan 3 Temel Risk
Akıllı ve otonom sistemler geliştikçe çözülmesi gereken üç büyük risk grubu ortaya çıkmıştır:
1. Etik Riskler (Ahlaki Çıkmazlar)
- Sorumluluk Karmaşası: Sürücüsüz bir araç yayaya çarptığında suçlu kimdir? Aracı satın alan kişi mi, fabrikayı yöneten mühendis mi, yoksa algoritmayı yazan yazılımcı mı?
- Algoritmik Önyargı / Ayrımcılık: Eksik verilerle eğitilen sistemler önyargılı davranabilir. Örneğin bazı otomatik sabunluklar koyu ten rengini algılayamamış, bazı yüz tanıma robotları belirli yaş gruplarını tanıyamamıştır.
2. Gizlilik Riskleri (Özel Hayatın İhlali)
- İzinsiz Veri Toplama: Evde dolaşan robot süpürgeler evin oda krokisini ve içindeki eşyaların konumunu çıkarır. Bu veriler izin alınmadan şirket sunucularına aktarılırsa büyük bir gizlilik ihlali oluşur.
- Sürekli Dinleme ve İzleme: Sesli komutla çalışan asistanlar veya kameralı arkadaş robotları ortamdaki konuşmaları kaydettiğinde kişisel mahremiyet tehlikeye girer.
3. Güvenlik Riskleri (Fiziksel ve Siber Saldırılar)
- Siber Korsanlık (Hacklenme): İnternete bağlı bir akıllı kapı kilidi veya hastanedeki ilaç taşıma robotu korsanlarca ele geçirilirse can ve mal kaybı yaşanabilir.
- Mekanik Arıza ve Çarpma: Sensörü arızalanan veya güvenlik sınırları çizilmemiş endüstriyel bir robot kol, çalışma sahasındaki insanlara ağır fiziksel zarar verebilir.
⚠️ Isaac Asimov'un Ünlü 1. Robot Yasası:
"Bir robot, bir insana zarar veremez ya da hareketsiz kalarak bir insanın zarar görmesine izin veremez."
Bu yasa, modern robotik dünyasında geliştirilen her algoritmanın en temel güvenlik şartıdır. İnsan hayatı her türlü eşyadan, kargodan ve kârdan üstündür.
"Bir robot, bir insana zarar veremez ya da hareketsiz kalarak bir insanın zarar görmesine izin veremez."
Bu yasa, modern robotik dünyasında geliştirilen her algoritmanın en temel güvenlik şartıdır. İnsan hayatı her türlü eşyadan, kargodan ve kârdan üstündür.
3) Riskleri Önlemek İçin Alınacak Tedbirler
Güvenilir bir robotik proje tasarlarken şu güvenlik ve etik adımlarını mutlaka sisteme eklemeliyiz:
| Risk Alanı | Gerekli Önlem / Tasarım İlkesi | Nasıl Uygulanır? |
|---|---|---|
| Fiziksel Güvenlik | Acil Durdurma Butonu (Kill Switch) | Tüm robotlarda elektrik bağlantısını tek vuruşta kesen büyük kırmızı mantar buton bulunmalıdır. |
| Siber Güvenlik | Şifreleme ve Güncelleme | Kartlara kablosuz bağlanırken varsayılan şifreler (1234, admin) değiştirilmeli, güçlü şifreleme kullanılmalıdır. |
| Kişisel Gizlilik | Açık Rıza ve Donanım Anahtarı | Kamera veya mikrofon kullanılmadan önce kullanıcıdan izin istenmeli; fiziksel kapatma kapağı konulmalıdır. |
| Etik ve Tarafsızlık | Kapsayıcı ve Şeffaf Kodlama | Yapay zekâ ve robot modelleri her yaştan, ten renginden ve gruptan insanı tanıyacak zengin verilerle test edilmelidir. |
💡 Görsel İpucu — Acil Durdurma (Kill Switch): Robot kontrol panosundaki büyük kırmızı buton, kodlarda bir hata veya kontrolden çıkma anında yazılıma sormaksızın elektriği fiziksel olarak anında keser.
4) Bilgi Güvenliğinin Üç Temel Taşı: G-B-E Üçlüsü
Robotun sensör verileri ve yazılımı bilgi güvenliğinin 3 altın bileşeniyle korunmalıdır:
- 🤫 Gizlilik (Confidentiality): Verilere (kamera yayını, ev konumu, şifreler) yalnızca izin verilen yetkili kişilerin ulaşabilmesidir. Yabancı kişilerin bu verileri görmesi engellenir.
- 🧩 Bütünlük (Integrity): Kodların ve gönderilen emirlerin yolda değiştirilmeden, bozulmadan hedefe varmasıdır. Örneğin bir arama-kurtarma dronuna "Geri dön" komutu gönderildiğinde, araya giren bir korsan bunu "Pili boşalt" komutuna dönüştürememelidir.
- 🔌 Erişilebilirlik (Availability): İhtiyaç duyulduğunda sistemin kesintisiz, kilitlenmeden ve çökmeden çalışır durumda olmasıdır. Bir yangın söndürme robotu alarm verildiğinde anında devreye girebilmelidir.
5) Gerçek Hayat Senaryoları ve Etik Değerlendirmeler
🎭 Senaryo 1 — Oyuncak Arkadaş Robot:
Bir oyuncak şirketi, çocuklarla sohbet eden kameralı bir robot ayı üretiyor. Robot, çocuğun söylediklerini ve fotoğraflarını şirketin internet sunucusuna yüklüyor.
• Risk: Şirket sunucusu saldırıya uğrarsa çocukların ses ve görüntüleri sızabilir.
• Etik Çözüm: Veriler internete gönderilmemeli; ses tanıma ve konuşma işlemi robotun içindeki dahili hafızada (çevrimdışı) yapılmalıdır. Ebeveyn açık rızası alınmalıdır.
Bir oyuncak şirketi, çocuklarla sohbet eden kameralı bir robot ayı üretiyor. Robot, çocuğun söylediklerini ve fotoğraflarını şirketin internet sunucusuna yüklüyor.
• Risk: Şirket sunucusu saldırıya uğrarsa çocukların ses ve görüntüleri sızabilir.
• Etik Çözüm: Veriler internete gönderilmemeli; ses tanıma ve konuşma işlemi robotun içindeki dahili hafızada (çevrimdışı) yapılmalıdır. Ebeveyn açık rızası alınmalıdır.
🎭 Senaryo 2 — Otonom Kargo Aracı İkilemi:
Sürücüsüz küçük bir teslimat robotu yolda giderken aniden yola bir kedi fırlıyor. Robot fren mesafesi yetmediği için ya kediye çarpacak ya da kaldırımdaki çöp kutusuna vurarak taşıdığı pahalı cep telefonunu kıracaktır.
• Etik Kural: Algoritma her zaman canlı hayatını cansız nesnelerden ve kargo değerinden üstün tutmalıdır. Robot maddi hasar pahasına yön değiştirerek canlıyı korumalıdır.
Sürücüsüz küçük bir teslimat robotu yolda giderken aniden yola bir kedi fırlıyor. Robot fren mesafesi yetmediği için ya kediye çarpacak ya da kaldırımdaki çöp kutusuna vurarak taşıdığı pahalı cep telefonunu kıracaktır.
• Etik Kural: Algoritma her zaman canlı hayatını cansız nesnelerden ve kargo değerinden üstün tutmalıdır. Robot maddi hasar pahasına yön değiştirerek canlıyı korumalıdır.
🎭 Senaryo 3 — Hastane İlaç Taşıma Robotu:
Hastanede servisler arasında kritik ilaçları taşıyan akıllı bir robot kullanılmaktadır.
• G-B-E Analizi: İlaç listesi korsanlarca değiştirilmemeli (Bütünlük), hasta bilgileri dışarı sızmamalı (Gizlilik), acil durumda doktor robotu manuel kumandayla hemen açabilmelidir (Erişilebilirlik).
Hastanede servisler arasında kritik ilaçları taşıyan akıllı bir robot kullanılmaktadır.
• G-B-E Analizi: İlaç listesi korsanlarca değiştirilmemeli (Bütünlük), hasta bilgileri dışarı sızmamalı (Gizlilik), acil durumda doktor robotu manuel kumandayla hemen açabilmelidir (Erişilebilirlik).
6) Sınav Tarzı Örnek Sorular ve Çözümleri
⚠️ Örnek Soru 1: Zeynep, okul projesi için yüz tanıma özelliği olan bir sınıf karşılama robotu tasarlamaktadır. Zeynep bu projeyi geliştirirken kişisel verilerin gizliliğini korumak için hangi iki temel güvenlik kuralına uymalıdır?
Cevap:
1) Açık Rıza: Öğrencilerin yüz fotoğrafını kaydetmeden önce kendilerinden ve velilerinden izin almalıdır.
2) Veri Güvenliği & Yerel Saklama: Fotoğrafları açık internete yüklememeli; kontrol kartında şifreli olarak saklamalı ve proje bitiminde imha etmelidir.
1) Açık Rıza: Öğrencilerin yüz fotoğrafını kaydetmeden önce kendilerinden ve velilerinden izin almalıdır.
2) Veri Güvenliği & Yerel Saklama: Fotoğrafları açık internete yüklememeli; kontrol kartında şifreli olarak saklamalı ve proje bitiminde imha etmelidir.
➕ Örnek Soru 2: Robot kolların çalıştığı bir fabrikada acil durdurma butonunun (Kill Switch) yazılımsal bir komut yerine doğrudan elektrik kablosunu kesen fiziksel bir buton olmasının sebebi nedir?
Cevap: Robotun işletim sistemi donarsa, yazılımı çökerse veya komutları dinlemezse yazılımsal durdurma çalışmayabilir. Fiziksel buton ise elektriği doğrudan keserek robotun motorlarını anında dondurur ve insanların can güvenliğini garanti altına alır.
7) 2. Hafta Özeti ve Altın İlkeler
- Etik, Güvenlik ve Gizlilik birbirinden ayrılmaz: Etik doğruyu seçmeyi, güvenlik sistemi korumayı, gizlilik ise mahremiyete saygıyı ifade eder.
- İnsan hayatı mutlaktır: Robotik sistemler ne kadar akıllı olursa olsun canlı hayatını ve güvenliğini her türlü maddi değerin üstünde tutmalıdır.
- G-B-E Üçlüsü: Bilgi güvenliğinde Gizlilik, Bütünlük ve Erişilebilirlik şarttır.
- Kill Switch şarttır: Her robotik sistemde yazılımdan bağımsız fiziksel bir acil durdurma mekanizması bulunmalıdır.