Algoritmalar Kendilerini Evrimleşecek Şekilde

• Google’ın AutoML-Zero, Darvin tarzı bir evrim süreci ile sıfırdan yeni algoritmalar oluşturabilir .
• Teknoloji devi için çalışan bilim adamları, otomatik makine öğrenimi araştırmalarındaki (AutoML) bu sıçramanın alanda devrim yaratacağına ve uzman olmayanlar için makine öğrenme yetenekleri açacağına inanıyorlar .
• Geçen ay, çalışmalarını baskı öncesi sunucusu ArXiv’e gönderdiler , Bu da araştırmanın henüz hakemliğe sahip olmadığı anlamına gelir.

---

Makine öğrenimi zordur . Belirli bir kullanım durumundaki algoritmalar genellikle ya çalışmaz ya da yeterince iyi çalışmaz, bu da bazı ciddi hata ayıklamalarına yol açar. Ve mükemmel algoritmayı (bilgisayarın bir işlemi gerçekleştirmek için izlemesi gereken kurallar kümesi) bulmak uzun bir görev olabilir. Mükemmel algoritmayı yoksa seçemezsiniz ve bazı çözümler insan zihnine sezgisel değildir.

Bu, algoritma seçme ve arıtma işleminin yinelemeli ve biraz monoton olduğu anlamına gelir. Otomasyon için mükemmel bir fırtına.

Otomatik makine öğrenimine veya uzman olmayanların da avantajlarından yararlanabilmesi için makine öğrenmesini otomatikleştiren yöntemlere ve süreçlere ayrılmış bir araştırma dalı olan AutoML’ye girin .

Google, bilgisayar bilimcilerinden oluşan bir ekibin, belirli bir görev için otomatik olarak en iyi algoritmayı oluşturabilecek yeni bir AutoML yöntemi geliştirdiğine inanıyor. Yeni araştırma Önbaskısını sunucusuna gönderilen bir yazıda özetlenmiştir arXiv. Ayrıca gözden geçirilmek üzere bilimsel bir dergiye gönderilmiştir ve Haziran ayı başlarında yayınlanabilir.

Öncül şöyledir: AutoML-Zero adı verilen yeni bir sistem, algoritmaları farklı görev türlerine uyarlayabilir ve gerekli insan müdahalesi miktarını azaltan Darvin benzeri bir evrim süreci ile bunları sürekli olarak geliştirebilir. İnsanlar sonuçta elde ettiğiniz sonuçları sınırlayan sistemlere önyargı getirebilir ve böylece kendi sınırlamalarını programlayabilir. Dolayısıyla Google, bir bilgisayarın özgürce dolaşabileceği ve yaratıcı olabileceği bir senaryo oluşturmaya çalışıyor – veya tabiri caizse kırmızı hapı ve mavi hapı alıyor.

Google Brain, Araştırma ve Makine İstihbaratında yazılım mühendisi olan ve araştırmanın baş yazarı Esteban Real, şu metaforu sunuyor:

“Amacınız bir ev araya koymaktır varsayalım. Eğer imha önceden oluşturulmuş yatak odaları, mutfaklar ve banyolarda olsaydı, senin görevin yönetilebilir olurdu ama aynı zamanda envanterinizde var oda ile sınırlıdır” diye anlatıyor Popüler Mekanik . “Bunun yerine tuğla ve harçla başlayacak olsaydın, işin daha zor, ama yaratıcılık için daha fazla yerin var.”

İnsanları ve Önyargıları Kaldırmak

Geçmişte, AutoML araştırması büyük ölçüde insan girdisine dayanıyordu. Örneğin , adından da anlaşılacağı gibi, bir sinir ağının tasarımını otomatikleştiren sinirsel mimari araştırması, yeni sinir ağı için yapı taşları olarak gelişmiş, uzman tarafından oluşturulmuş katmanlara dayanır. Bunlar temel olarak bir bilgisayara ne yapacağını söyleyen elle kodlanmış talimatlar veya programlardır.

Buna karşılık, Google’ın yeni AutoML-Zero, yeni algoritmalar için yapı taşları olarak insan tasarımlı bileşenler yerine matematik kullanır. COBOL’dan Python’a Ruby on Rails’e kadar programlama dilleri , bir program oluşturma işlemini kolaylaştırır. Makineler sayıları, özellikle ikili kodu anlar ve diller programcı ve makine arasında bir tampon görevi görür. Bu şekilde, insanlar bütün gün komutları 1 ve 0’lık bir grup halinde ayırmak zorunda kalmazlar.

Ancak bu dil seçimi ve programlama dillerinde temsil, önyargıların akmasına izin veriyor, diyor Massachusetts Teknoloji Enstitüsü’nde (MIT) doçent olan Armando Solar-Lezama, çalışmaya bağlı olmayan. MIT’in programlama sürecini otomatikleştirmeye odaklanan Bilgisayar Destekli Programlama Grubuna liderlik ediyor.

Solar-Lezama Popular Mechanics’e yeni Google gazetesinde basit, matematik tabanlı bir dili ne kadar ileriye götürebileceğinizi görmekle ilgili olduğunu söyledi, böylece “keşfettiğiniz şeyler dil seçiminize bağlı kalmıyor.” Bu durumda önyargı seçeneklerinizi sınırlamak anlamına gelir.

Real’in ev metaforuna geri dönersek, evinizi tüm odalardan inşa ettiğinizi ve bildiğiniz tek şey Roma tarzı olduğunu hayal edin. “O zaman eviniz sütunlar, atriyumlar ve impluvia ile doluydu; Empire State Binası veya Sistine Şapeli ile gelemezdiniz” diyor Real. “Tuğla ve harç kullanıyorsanız, belirli bir stille sınırlı değilsiniz.”

Real ve yazarları Chen Liang, David So ve Quoc Le, en iyi çabalarına rağmen programda hala bazı önyargıların olduğunu kabul ediyorlar. Örneğin, seçtikleri belirli matematik işlemleri bile, araştırmacıların önceden var olan makine öğrenimi algoritmaları bilgisine dayanan örtük yanlılık içerebilir.

Genetik Algoritmalar

Yeni algoritmalar keşfetmek için AutoML-Zero, matematiksel işlemlerin bir kombinasyonu ile oluşturulan 100 rastgele algoritma ile başlar. Daha sonra, sistem, bir sonraki adıma geçen en iyi olanları bulmak için algoritmaların arasından geçerek, insanların “en uygun olanın hayatta kalması” oyununda uygun genleri zamanla geçirme sürecine benzer.

Oradan, algoritmalar, bir robot olup olmadığınızı kontrol eden RECAPTCHA testlerinden birinde yapabileceğiniz gibi, kamyonlardan motosikletleri tanımlamak gibi bir tür makine öğrenme görevini tamamlar. AutoML-Zero, görevleri her algoritmanın belirli bir hedefi tamamlamadaki etkinliğini puanlamak için kullanır ve ardından başka bir raunta başlamak için en iyilerini “değiştirir”.

Bu yeni “alt” algoritmalar, mevcut görevde daha iyi olup olmadıklarını görmek için orijinal “üst” algoritmalarla karşılaştırılır. İşlem, en iyi mutasyonlar kazanılana ve son algoritmaya ulaşana kadar sürekli olarak tekrarlanır.

Sonunda, sistem saniyede 10.000 olası modeli arayabilir ve daha önce gördüğü algoritmaları atlayabilir. Araştırmacılar, daha karmaşık miktarlarda bilgi için vekil olarak küçük bir veri seti kullandılar ve bu da işi bir kavram kanıtı haline getirdi.

“OLUŞTURMAYA ÇALIŞTIĞINIZ KOD NE KADAR UZUN OLURSA, BİR HATANIN GİZLENMESİ O KADAR KOLAY OLUR.”

Bunu yapmak için AutoML-Zero, 1980’lerden beri var olan, ancak çoğunlukla kullanımdan düşmüş olan genetik algoritmalar olarak bilinenleri kullanıyor, diyor Solar-Lezama. Bunun nedeni genellikle “başka hiçbir şeyin işe yaramadığı” yapılandırılmamış ortamlarda en iyi olmaları ve çoğu zaman tersine mühendislik zor olan okunamayan kodlara yol açmalarıdır. Ayrıca, gerçekten uzun kod parçaları üretir.

Solar-Lezama, “Oluşturmaya çalıştığınız kod ne kadar uzun olursa, bir hatanın gizlenmesi o kadar kolay olur” diyor. “Tam olarak ne istediğinizi yapan ve çalışmayan bir kod parçası arasındaki fark olabilir ve bu bir karakter olabilir. Bu program sentezinde genel bir sorundur.”

Yine de, genetik algoritmalar bu durumda mantıklıdır, çünkü bilgisayarın seçeneklerini engellemek istemezsiniz.

Ölçeklendirme Sorunu

Google, Cloud AutoML adlı kendi programlama dilini zaten geliştirdi , bu da makine öğrenimi modellerini minimum insan uzmanlığı ile eğitmeyi kolaylaştırdı. Ancak AutoML-Zero, daha az insan katılımına doğru bir adım gibi görünüyor.

Ancak Solar-Lezama, bu yöntemin ölçeklendirilmesinin zor olacağını söylüyor. AutoML-Zero, üst düzey programlama dilleri yerine aritmetik kullandığından, sistemin daha önce karşılaştığı bir soruna hızla yaklaşmasına yardımcı olacak herhangi bir talimat yoktur. Bunun yerine, her seferinde tekerleği yeniden icat etmek zorunda kalacak, bu da optimal değil.

Ölçeklendirme konusunu aşmak için Solar-Lezama, araştırmacıların gelecekteki çalışmalarında “böl ve fethet” zihniyeti alabileceğini söylüyor. Programın bir bölümünü başka bir bölümden ayırarak AutoML-Zero başarılı olabilir. Ayrıca, yapı taşları olarak soyut aritmetik ile daha fazla iş yapabilen ancak önyargı yaratabilecek daha önemli talimatlar arasında doğru dengeyi bulmak hayati önem taşımaktadır.

Google sistemi ölçeklendirir ve makinelerin algoritmaları gerçekten oluşturmasına izin verirse, daha hızlı uygulama geliştirme, dil çevirisi, video işleme … her şey anlamına gelebilir , Solar-Lezama diyor. Küçük bir zaman geliştiricilerine ve küçük işletmelere, tüm bir veri bilimi ekibini işe almak veya dış kaynak kullanmak zorunda kalmadan makine öğrenimi özelliklerinden yararlanmaları için bile yetki verebilir.

“İyi ayarlanmış ve uğraştığınız belirli bir uygulama için iyi ayarlanmış bir algoritma bulabilmek … çok güçlü bir şey olabilir” diyor.