Pakken van een bewegende band met imitation learning

In een masterscriptie bij TOS Robotics verving Nienke Dekkema het ACT-model van de eerdere generatie van TOS Robotics door een model dat zijn beeldkenmerken uit de opstelling zelf leert en een geheugen over de tijd heeft. In een gecontroleerde opstelling met een transportband en één testobject steeg het succes van 18% naar 98% bij 0,10 m/s en van 0% naar 90% bij 0,15 m/s.

Probleem

Op een bewegende band kan een kleine timingfout een gemiste greep betekenen. Het uitgangsmodel was dat van de eerdere generatie van TOS Robotics, een ResNet-34-beeldnetwerk met ACT (Action Chunking with Transformers). Volgens de scriptie kon het een paprika pakken van een band die stilstond, maar niet van een bewegende, ook niet bij constante snelheid. De vraag was hoe je het betrouwbaar laat pakken als de bandsnelheid per poging verschilt.

Opstelling

  • een Interbotix-robotarm met een grijper, aangestuurd met 100 commando’s per seconde binnen grenzen voor snelheid, versnelling en jerk
  • de Teachbot van TOS Robotics voor teleoperatie
  • twee kleuren- en dieptecamera’s op 90 beelden per seconde, één vast met zicht op de band en één op de pols
  • een kleine rode cilinder met per poging een constante bandsnelheid, 0,10 of 0,15 m/s, die de robot pakt, terugbrengt naar het begin van de band en loslaat

De data bevatte 75 pogingen per snelheid, 50 voor training en 25 voor validatie, gemaakt door één demonstratie met teleoperatie opnieuw af te spelen met per snelheid verschoven timing. Elk model is per snelheid 100 keer getest. Betrouwbaar betekent minstens 90% succes.

Resultaten

Model 0,10 m/s 0,15 m/s
ResNet-34 met ACT, samengevoegde blokken van 75 acties 18% 0%
ResNet-34 met LSTM, geheugen over twee beelden met 40 ms ertussen, elke 40 ms één gewrichtsdoel voor 80 ms later 65% 0%
Variational autoencoder met LSTM, een klein beeldmodel getraind op uitgesneden bandbeelden en de positie van de cilinder 98% 90%

Het uitgangsmodel begon te laat of te vroeg, bij 0,15 m/s in 99 van de 100 pogingen te laat. De auteur vermoedt dat ACT zonder geheugen de twee snelheden niet uit elkaar kan houden en dat de blokken de reactiesnelheid verlagen. In een extra test bij één snelheid, 0,15 m/s met 30 pogingen per instelling, bepaalde het gewicht bij het samenvoegen de uitkomst: het succes steeg van 30% met de nieuwste voorspelling op 0,95 naar 100% bij 0,3 of lager. Getraind op meerdere snelheden was ACT nog steeds niet betrouwbaar.

Het model met ResNet-34 en LSTM deed het goed op validatiedata bij beide snelheden, en de auteur ziet het verschil op de robot als teken dat de ResNet-34-kenmerken slecht generaliseren naar nieuwe beelden. De variational autoencoder met LSTM was betrouwbaar bij beide snelheden en kon zich herstellen na een te vroege start. In 83% van de mislukte pogingen maakte de arm plotselinge, grote bewegingen, die de scriptie koppelt aan ontbrekende camerabeelden die het systeem door een zwart beeld verving.

Beperkingen

De test gebruikte één cilinder bij twee snelheden, een dataset uit één demonstratie en alleen de score gelukt of mislukt. Ontbrekende camerabeelden zijn niet aangepakt. Voedselproducten moeten nog worden getest. Hoe TOS Robotics de eigen robotbewegingen soepel maakt, staat in vloeiende robotbewegingen met ACT.

Volledige titel: End-to-end imitation learning for conveyor pick-and-place tasks under speed variation. Uitgevoerd bij BIASlab in samenwerking met TOS Robotics.

Vragen en antwoorden

Welke aanpassing maakte het verschil?

Dat kan de scriptie niet scheiden. Het model met de variational autoencoder verschilt van het model met ResNet-34 en LSTM zowel in het beeldmodel als in het invoerbeeld, dat uitgesneden en kleiner was, dus de winst valt niet aan één van de twee toe te schrijven.

Wordt dit op de productielijn gebruikt?

Nee. De productiecellen van TOS Robotics gebruiken een diffusion policy op puntenwolken met een aparte padplanner en volgen de band met line tracking. Deze bevindingen daar toepassen zou nieuw werk zijn.

Zie het werken met jouw product

Stuur ons je product en je verpakkingsvorm. Wij laten zien wat de robot ermee doet, in simulatie of op onze testcel in Vught.

Demo aanvragen