YELLOWSTAR MAGAZİNE GÜNCEL İŞ VE EKONOMİ HABERLERİ

Google yapay zekanın ayrımcılığına savaş açıyor

Bilim

Yapay zeka teknolojisi geçen yıllarda pek çok ayrımcı ve ırkçı tavırlarıyla eleştiri konusu olurken, Google, yapay zeka sistemini ayrımcılık ve ırkçılıktan korumak için TCAV adını verdiği yeni bir sistemi deniyor.

İSTANBUL (AA) (YSM) - Teknoloji devi Google, yapay zeka sistemini ayrımcılık ve ırkçılıktan korumak için TCAV (testing with concept activation vectors) adını verdiği yeni bir sistemi deniyor.

Çağın en büyük teknolojik icatlarından biri olan yapay zeka, getirdiği yeniliklerle beraber yarattığı sorunlarla da gündemde.

Temelini derin öğrenme (deep learning) adı verilen bir sistemden alan yapay zeka ürünler, internette bulunan mevcut verilerden öğrenerek kendi davranışlarını geliştiriyor.

Mevcut verilerde bulunan önyargı ve ayrımcılık gibi istenmeyen özellikleri de öğrenen yapay zeka ürünler, geçmişte pek çok skandala da imza atmıştı.

2016 yılında Microsoft tarafından geliştirilen ve twitterde kullanıcılarla etkileşim halinde olması hedeflenen yapay zeka hesap "Tay" çok kısa bir süre içinde gerçek kullanıcıların tweetlerinden beslenerek ırkçı ve islamofobik tweetler atmaya başlamış ve bu sebeple Microsoft, Tay'ın tweetlerine müdahale etmek zorunda kalmıştı.

Ayrımcılığın önüne geçme hedefi

Amerikan teknoloji sitesi CNET'te yer alan habere göre, Google Üst Yöneticisi (CEO) Sundar Pichai, yapay zekayı besleyen verilerde bulunan ayrımcı ön yargıları engellemek için harekete geçtiklerini bildirdi.

7 Mayıs'ta başlayan ve dün sona eren "Google I/O 2019" konferansında konuşan Pichai, TCAV sistemi ile makine öğrenmesinin çalışma yöntemlerini analiz ettiklerini ve yapay zekanın karar verme sistemlerindeki açıklarını düzeltmeye çalıştıklarını kaydetti.

Pichai, "TCAV, eğer bir yapay zeka beslendiği verilerden dolayı doktor olmak için erkek olmak gerektiği gibi bir ön yargıya sahipse bu hatayı açığa çıkarabiliyor." ifadesini kullandı.

YSM HABER MERKEZİ

Yorum yapabilmek için lütfen sitemizden üye girişi yapınız!
Sıradaki Haber
Sitemizden en iyi şekilde faydalanmanız için çerezler kullanılmaktadır.