Egyetlen neuron csak lineáris határt tud húzni (a XOR-t nem tanulja meg). Túl nagy tanulási rátánál a veszteség ingadozik vagy divergál; túl kicsinél a tanulás lassú.
Egy rejtett rétegű hálózat hibavisszaterjesztéssel, mini-batch gradiens-módszerrel tanul; a háttér színe a becsült osztályvalószínűség.