22-02-2017 Saat: 13:53
Google'ın Tasarladığı Yapay Zekâların Öfkelenmeye Başladığı Gözlemlendi!
Yaşayan en büyük fizikçi olan Stephen Hawking, geçtiğimiz sene gelişmekte olan yapay zekâ teknolojisiyle ilgili şu sözleri sarf etmişti:
"Yapay zekâlar insanlığın başına gelen ya en iyi şey, ya da en kötü şey olacaklar."
Umuyoruz ki gerçeklik kazanan bu ihtimallerden ilki olur ve gelecekte onları ürettiğimiz için pişmanlık duymayız...
Google DeepMind şirketi tarafından üretilen yapay zekâlar, geliştirdiğimiz teknoloji konusunda ne kadar dikkatli olmamız gerektiğini gözler önüne seriyor.
DeepMind yapay zekâlarının geliştirilmesi konusunda geçtiğimiz sene büyük aşama kaydedilmiş, robotlara yeni anılar edinme ve bunları hatırlayabilme özelliği kazandırılmıştı. Ayrıca bu yapay zekâlar, dünyanın en iyi Go oyuncularıyla girdikleri karşılaşmalarda kazanan taraf olmuş, insanın kendinden çok daha zeki robotlar yaratabileceğini kanıtlamışlardı.
Son zamanlarda ise bu robotların insan sesini taklit etme becerileri ve işbirliği yapma eğilimleri üzerinde çalışılıyordu.
Çalışmalar gösterdi ki, Google'ın yapay zekâları bir oyunda kaybedeceklerini anladıkları zaman öfkelenmeye ve kazanmalarını sağlayacak agresif stratejiler geliştirmeye başlıyorlar.
Yapay zekâların işbirliği yapma eğilimini test etmek isteyen araştırmacılar, onlara basit bir meyve toplama oyunu oynattılar.
Yapay zekâlardan istenen, bu bilgisayar oyununda birbirleriyle yarışmaları ve mümkün olduğu kadar çok sayıda elma toplamalarıydı. Oyunun başlarında sorunsuz bir şekilde ilerleyen mücadele, elmaların sayısı azaldıkça farklı bir boyut kazanmaya başladı. Daha çok elma toplamak için agresif tavırlar sergileyen robotlar, oyundaki lazerleri kullanarak birbirlerini oyunun dışına atmak ve tüm elmaları kendileri toplamak için mücadele etmeye başladılar.
Söz konusu mücadeleyi aşağıdan izleyebilirsiniz. Bu oyunda elmalar yeşil, lazerler sarı ve yapay zekâlar kırmızı ve mavi renkle temsil ediliyor.
Üstelik daha da ilginci, oyunda rakibi vurarak hiçbir ekstra puan kazanılmıyor oluşu. Lazerle rakibi vurmanın tek avantajı, rakibi bir süreliğine oyundan düşürerek daha fazla elma toplanabilmesi. Lazerler kullanılmadığı durumda her iki yarışmacı da aynı sayıda elma toplayarak görevi başarıyla tamamlayabiliyor ve yapay zekâların daha önceki versiyonları da bunu yapma eğilimi gösteriyordu.
Araştırmacılar yapay zekâlar için daha küçük bir ağ kullandığı zaman yapay zekâların birlikte barış içinde çalışma eğilimleri artıyor.
Bu da demek oluyor ki, tasarlanan yapay zekâlar ne kadar "zekiyse", birbirlerini sabote etme ihtimalleri de o kadar çok artıyor. Çünkü zeki robotlar çevrelerini daha iyi analiz edebiliyor, fırsatları daha iyi görebiliyor ve alışılmadık taktikler kullanarak rakiplerini mağlup edebiliyorlar. Korkutucu olmaya başladı, değil mi?
Daha sonra robotlardan bir başka oyun daha oynamaları istendi.
"Wolfpack" isimli bu oyunda bu defa üç farklı yapay zekâ bulunuyordu. Bunlardan iki tanesi kurt, diğeri ise av rolündeydi. Tıpkı ilk oyunda olduğu gibi bu oyun da işbirliğini geliştirmek üzere düşünülmüştü çünkü av yakalandığında, hangi kurdun yakaladığına bakılmaksızın iki yarışmacıya da eşit puan veriliyordu. Üstelik kurtlar birlikte çalıştıkları takdirde kazandıkları bireysel puanlar da yükseliyordu. Ekip, böyle bir durumda yapay zekâların nasıl bir yol izleyeceğini gözlemledi.
Yapay zekâların böyle bir durumda ise işbirliği yapmak için daha fazla çaba gösterdiği gözlemlendi.
Önümüzdeki yıllar için sürücüsüz araçlar geliştirmeyi, insanların yaptığı bazı işleri yapay zekâlara devretmeyi düşünüyoruz ve onların tüm bu işleri bizler için daha güvenli olacak şekilde yürütmelerini istiyoruz. Gerçek şu ki yapay zekâları bizim üretiyor oluşumuz, bizim sahip olduğumuz hassasiyete sahip olacaklarını göstermiyor. Bu sebeple gelecekte yaşanabilecek felaket senaryolarını önleyebilmek için onları daha dikkatli bir biçimde geliştirmemiz, onları daha düşünceli ve işbirliğine yatkın kılacak yazılımlar üretmemiz gerekiyor...
Alıntıdır...
Yaşayan en büyük fizikçi olan Stephen Hawking, geçtiğimiz sene gelişmekte olan yapay zekâ teknolojisiyle ilgili şu sözleri sarf etmişti:
"Yapay zekâlar insanlığın başına gelen ya en iyi şey, ya da en kötü şey olacaklar."
Umuyoruz ki gerçeklik kazanan bu ihtimallerden ilki olur ve gelecekte onları ürettiğimiz için pişmanlık duymayız...
Google DeepMind şirketi tarafından üretilen yapay zekâlar, geliştirdiğimiz teknoloji konusunda ne kadar dikkatli olmamız gerektiğini gözler önüne seriyor.
DeepMind yapay zekâlarının geliştirilmesi konusunda geçtiğimiz sene büyük aşama kaydedilmiş, robotlara yeni anılar edinme ve bunları hatırlayabilme özelliği kazandırılmıştı. Ayrıca bu yapay zekâlar, dünyanın en iyi Go oyuncularıyla girdikleri karşılaşmalarda kazanan taraf olmuş, insanın kendinden çok daha zeki robotlar yaratabileceğini kanıtlamışlardı.
Son zamanlarda ise bu robotların insan sesini taklit etme becerileri ve işbirliği yapma eğilimleri üzerinde çalışılıyordu.
Çalışmalar gösterdi ki, Google'ın yapay zekâları bir oyunda kaybedeceklerini anladıkları zaman öfkelenmeye ve kazanmalarını sağlayacak agresif stratejiler geliştirmeye başlıyorlar.
Yapay zekâların işbirliği yapma eğilimini test etmek isteyen araştırmacılar, onlara basit bir meyve toplama oyunu oynattılar.
Yapay zekâlardan istenen, bu bilgisayar oyununda birbirleriyle yarışmaları ve mümkün olduğu kadar çok sayıda elma toplamalarıydı. Oyunun başlarında sorunsuz bir şekilde ilerleyen mücadele, elmaların sayısı azaldıkça farklı bir boyut kazanmaya başladı. Daha çok elma toplamak için agresif tavırlar sergileyen robotlar, oyundaki lazerleri kullanarak birbirlerini oyunun dışına atmak ve tüm elmaları kendileri toplamak için mücadele etmeye başladılar.
Söz konusu mücadeleyi aşağıdan izleyebilirsiniz. Bu oyunda elmalar yeşil, lazerler sarı ve yapay zekâlar kırmızı ve mavi renkle temsil ediliyor.
Üstelik daha da ilginci, oyunda rakibi vurarak hiçbir ekstra puan kazanılmıyor oluşu. Lazerle rakibi vurmanın tek avantajı, rakibi bir süreliğine oyundan düşürerek daha fazla elma toplanabilmesi. Lazerler kullanılmadığı durumda her iki yarışmacı da aynı sayıda elma toplayarak görevi başarıyla tamamlayabiliyor ve yapay zekâların daha önceki versiyonları da bunu yapma eğilimi gösteriyordu.
Araştırmacılar yapay zekâlar için daha küçük bir ağ kullandığı zaman yapay zekâların birlikte barış içinde çalışma eğilimleri artıyor.
Bu da demek oluyor ki, tasarlanan yapay zekâlar ne kadar "zekiyse", birbirlerini sabote etme ihtimalleri de o kadar çok artıyor. Çünkü zeki robotlar çevrelerini daha iyi analiz edebiliyor, fırsatları daha iyi görebiliyor ve alışılmadık taktikler kullanarak rakiplerini mağlup edebiliyorlar. Korkutucu olmaya başladı, değil mi?
Daha sonra robotlardan bir başka oyun daha oynamaları istendi.
"Wolfpack" isimli bu oyunda bu defa üç farklı yapay zekâ bulunuyordu. Bunlardan iki tanesi kurt, diğeri ise av rolündeydi. Tıpkı ilk oyunda olduğu gibi bu oyun da işbirliğini geliştirmek üzere düşünülmüştü çünkü av yakalandığında, hangi kurdun yakaladığına bakılmaksızın iki yarışmacıya da eşit puan veriliyordu. Üstelik kurtlar birlikte çalıştıkları takdirde kazandıkları bireysel puanlar da yükseliyordu. Ekip, böyle bir durumda yapay zekâların nasıl bir yol izleyeceğini gözlemledi.
Yapay zekâların böyle bir durumda ise işbirliği yapmak için daha fazla çaba gösterdiği gözlemlendi.
Önümüzdeki yıllar için sürücüsüz araçlar geliştirmeyi, insanların yaptığı bazı işleri yapay zekâlara devretmeyi düşünüyoruz ve onların tüm bu işleri bizler için daha güvenli olacak şekilde yürütmelerini istiyoruz. Gerçek şu ki yapay zekâları bizim üretiyor oluşumuz, bizim sahip olduğumuz hassasiyete sahip olacaklarını göstermiyor. Bu sebeple gelecekte yaşanabilecek felaket senaryolarını önleyebilmek için onları daha dikkatli bir biçimde geliştirmemiz, onları daha düşünceli ve işbirliğine yatkın kılacak yazılımlar üretmemiz gerekiyor...
Alıntıdır...
