ACT (Dönüşümcülerle Eylem Parçalama)

ACT, özellikle ince ayarlı manipülasyon görevleri için son derece uygun olan, taklit öğrenme için hafif ve verimli bir politikadır. Hızlı eğitim süresi, düşük hesaplama gereksinimleri ve güçlü performansı sayesinde LeRobot ile başlarken önerdiğimiz ilk modeldir.

ACT'nin nasıl çalıştığını öğrenmek için LeRobot ekibinin bu eğitimini izleyin: LeRobot ACT Eğitimi

Model Genel Bakış

Transformers ile Eylem Parçalama (ACT), Zhao ve ark. tarafından Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware adlı makalede tanıtılmıştır. Bu politika, uygun fiyatlı donanımlar ve minimal gösterim verisi kullanılarak hassas, temas yoğun manipülasyon görevlerini mümkün kılmak üzere tasarlanmıştır.

ACT Neden Başlangıç İçin Mükemmel

ACT, birkaç nedenden ötürü mükemmel bir başlangıç noktası olarak öne çıkar:

• Hızlı Eğitim: Tek bir GPU üzerinde birkaç saat içinde eğitim yapar
• Hafif: Sadece ~80M parametreye sahip olması sayesinde verimli ve kolay çalışılır
• Veri Verimli: Genellikle yalnızca 50 gösterimle yüksek başarı oranlarına ulaşır

Mimari

ACT, üç ana bileşene sahip transformer tabanlı bir mimari kullanır:

1. Görüntü Omurgası: ResNet-18, birden fazla kamera görüş açısından gelen görüntüleri işler
2. Transformer Encoder: Kamera özelliklerinden, eklem konumlarından ve öğrenilmiş gizli değişkenden bilgi sentezler
3. Transformer Dekoderi: Çapraz dikkat (cross-attention) kullanarak tutarlı eylem dizileri üretir

Politika, girdi olarak alır:

• Birden fazla RGB görüntüsü (örneğin, bilek kameralarından, ön/üst kameralardan)
• Güncel robot eklem konumları
• Gizli bir stil değişkeni z (eğitim sırasında öğrenilir, çıkarım sırasında sıfıra ayarlanır)

Ve k uzunluğunda bir gelecek eylem dizisi parçası üretir.

Kurulum Gereksinimleri

1. LeRobot'u Yükleme Kılavuzumuz’u takip ederek yükleyin.
2. ACT, temel LeRobot kurulumunun bir parçasıdır, bu nedenle ek bağımlılıklara gerek yoktur!

ACT Eğitimi

ACT, standart LeRobot eğitim hattıyla kusursuz bir şekilde çalışır. Veri setinizde ACT eğitimi için tam bir örnek aşağıdadır:

lerobot-train \
  --dataset.repo_id=${HF_USER}/your_dataset \
  --policy.type=act \
  --output_dir=outputs/train/act_your_dataset \
  --job_name=act_your_dataset \
  --policy.device=cuda \
  --trackio.enable=true \
  --policy.repo_id=${HF_USER}/act_policy

Eğitim İpuçları

1. Varsayılanlarla başlayın: ACT’nin varsayılan hiperparametreleri çoğu görev için iyi çalışır
2. Eğitim süresi: Tek bir GPU üzerinde 100k eğitim adımı için birkaç saat bekleyin
3. Batch boyutu: GPU belleğinize göre ayarlayarak batch boyutu 8'den başlayın

Google Colab kullanarak eğitim

Yerel bilgisayarınız güçlü bir GPU'ya sahip değilse, ACT eğitim defterini izleyerek modelinizi eğitmek için Google Colab'ı kullanabilirsiniz.

ACT'yi Değerlendirme

Eğitim tamamlandıktan sonra, ACT politikanızı robotunuzda lerobot-rollout ile değerlendirebilirsiniz. Aşağıdaki komut, hiçbir şey kaydetmeden politikayı 60 saniye boyunca çalıştırır (ACT için --task atlanabilir). Değerlendirme bölümlerini kaydeden stratejiler için Politika Dağıtımı bölümüne bakın.

lerobot-rollout \
  --strategy.type=base \
  --policy.path=${HF_USER}/act_policy \
  --robot.type=so101_follower \
  --robot.port=/dev/ttyACM0 \
  --robot.cameras="{ front: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30}}" \
  --display_data=true \
  --task="Your task description" \
  --duration=60