Açık Kaynak Düzeninin Yapay Zeka Etkisiyle Değişimi
GitHub’ın yapay zekanın ürün metriklerindeki devasa katkısını kutlayan istatistikleri paylaştığında, katkı kalitesindeki düşüş gözden kaçırıldı. Bu durum, açık kaynak dünyasında endişe verici bir değişimin habercisiydi. İlk ciddi sorunlardan biri, 900 dolarlık ödüllü bir görevde yaşandı. Meşru katkıcılar başlangıçta planlar sunup sorular sorsa da, kısa sürede yapay zeka botları konuyu ele geçirdi. Toplam 253 yorumla, anlamsız ‘uygulama planları’ ve hatta geliştiricilere yönelik saldırganlık içeren yorumlarla tartışma zehirlendi.
Yapay zeka hesapları, sadece bu görevi değil, tüm depoyu doldurmaya başladı. Her özensiz yorum, depoyu izleyen her ekip üyesine bildirim göndererek GitHub bildirimlerini bir gürültü duvarına dönüştürdü. Ödüller üzerinde aktif olarak çalışan gerçek katkıcıların sohbetleri bu gürültüde kayboldu. Sorun daha sonra bir salgın halini aldı; örneğin, sadece x.ai sağlayıcı desteği ekleme görevi için 27 çekme isteği alındı ve bunların çoğu katkıcılar tarafından test edilmemişti. Ekip üyelerinden biri her hafta yarım gününü yapay zeka çöpünü depodan temizlemek, test edilmemiş çekme isteklerini kaldırmak ve halüsinasyon içerikli sorunları kapatmakla geçirmek zorunda kaldı. Bu durum ihmal edildiğinde, depo meşru katkıcılara karşı tamamen düşmanca bir ortama dönüştü.
Yapay Zeka ‘Slop’una Karşı Mücadele
Archestra ekibi, başlangıçta katkıcıların ‘itibarını’ hesaplamayı denedi ve bir ‘itibar botu’ olan ‘London-Cat’ı geliştirdi. Bu bot, bir katkıcının itibarını birleştirilmiş çekme istekleri ve diğer sinyallere dayanarak hesaplıyordu. Ancak bu, spam’ı durdurmakta yetersiz kaldı, sadece ‘kim kimdir’ sorusuna yardımcı oldu. Bir sonraki adımda ise, bazı meşru çekme isteklerini de kapatan bir ‘Yapay Zeka Şerifi’ geliştirildi. Sürekli artan faydasız yapay zeka yorumları ve önerileri, meşru katkıcıları uzaklaştırıyor ve şirketi ödüllerle katkıları teşvik etme veya iş adaylarına eğlenceli test görevleri verme yaklaşımlarını yeniden düşünmeye itiyordu.
Bu durum karşısında Archestra ekibi, depolarını meşru katkıcılar, sorumlu yapay zeka kullanıcıları, yeni başlayanlar ve deneyimli mühendisler için rahat ve güvenli bir alan haline getirme kararı aldı. Bu bağlamda, artık kayıt sürecinden geçmemiş kişilerin sorun oluşturma, çekme isteği açma ve yorum bırakma yeteneği engellendi. Bu, özellikle GitHub aktivitesiyle ölçülen bir girişim için radikal bir adımdı, ancak ekip nicelikten çok niteliğe değer verdiğini ve yapay zeka ‘slop’u tarafından şişirilmiş metriklere değer vermediklerini vurguladı. Amaçları, Archestra’nın yapay zeka botları tarafından yutulmadan herkesin katkıda bulunabileceği harika bir yazılım parçası olmasını sağlamaktı.
Çözüm: GitHub Entegrasyonuyla Çalışma
Açık kaynak depolarında kimlerin yorum yapabileceğini veya çekme isteği oluşturabileceğini doğrudan beyaz listeye alma gibi basit bir yol bulunmadığından, Archestra’nın bir çözüm geliştirmesi gerekti. ‘Önceki katkıcılara sınırlama’ adı verilen bir GitHub ayarı bulunmaktadır: eğer daha önce ‘main’ branch’ine commit yapmadıysanız, sorunlar veya çekme istekleri üzerine yorum yapamazsınız. Ancak bu ayar, bir yapay zeka botu ile ödül üzerinde çalışmak için kaydolan gerçek bir geliştirici arasında ayrım yapamaz. Her ikisi de ‘önceki katkıcı’ değildir ve erişimleri engellenir.
GitHub, ‘önceki katkıcıyı’ ‘main’ branch’ine commit yapan kişinin GitHub hesabına sahip biri olarak tanımlar. Git commit’lerinin iki kimlik alanı vardır: ‘author’ (yazar) ve ‘committer’ (kaydeden), bunlar farklı kişiler olabilir. Git’in ‘–author’ bayrağını kullanarak başka birine ait bir commit oluşturulabilir. E-posta adresi GitHub hesaplarıyla eşleşirse, GitHub commit’i onların profiline bağlar ve onlara katkıcı statüsü verir. Her GitHub hesabının bir noreply e-postası vardır: ‘<id>+<kullanıcıadı>@users.noreply.github.com’. Kullanıcının kimliğini API aracılığıyla bularak ve commit yaparak bu mekanizma devreye sokulabilir. ‘main’ branch’ine push yapıldıktan sonra, bu kişiler hemen yorum yapma yeteneği kazanır. Dış kullanıcı ‘author’ olarak, Archestra’nın hesabı ‘committer’ olarak görünür ve GitHub bunu ‘önceki katkıcı’ olarak kabul etmek için yeterli görür.
Tam akış şu şekildedir: 1. Etik yapay zeka kuralları ve CAPTCHA içeren bir kayıt süreci Archestra web sitesinde. 2. Kayıt sonrası tetiklenen bir GitHub Action, kullanıcının GitHub kimliğini bulur, adını ‘EXTERNAL_CONTRIBUTORS.md’ dosyasına ekler ve kendi hesabı altında ‘main’ branch’ine bir commit push eder. 3. Kullanıcı beyaz listeye alınır ve depoya erişim kazanır.
Sonuç
GitHub, yapay zeka tarafından oluşturulan büyük bir kısmı içeren devasa metrik büyümesi rapor ederken, açık kaynak proje ekipleri depolarındaki yapay zeka ‘slop’unu temizlemek ve açık kaynak kitlelerinin meşruiyet seviyesini korumak için ezoterik çözümler bulmak zorunda kalmaktadır. Yapay zeka ‘slop’u, zamanlarını iyi işler yaparak geçirmek isteyen ve bunun yerine gürültü duvarını aşmak zorunda kalan katkıcıları demotive etmekle kalmaz, aynı zamanda LiteLLM deposunda olduğu gibi saldırganların yapay zeka botlarını kullanarak konuşmayı yönlendirmeye çalıştığı gibi önemli güvenlik riskleri de taşır. Bu durum, yapay zekanın açık kaynak üzerindeki etkileri hakkında ciddi bir tartışma başlatma zamanının geldiğini göstermektedir.
