Bereits in der griechischen Mythologie findet die Schafgarbe Erwähnung. Der große Held Achilles nutzte das Kraut zur Heilung einer Wunde, die er dem mysischen König Thelephos zusetzte, nachdem er auf der Suche nach Troja in dessen Gebiet einzog. In der Heilkunde unterwiesen wurde Achilles der Erzählung zufolge übrigens durch den Zentauren Chiron, welcher ihn großzog und in diversen Disziplinen unterrichtete. Mitte des 18. Jahrhunderts definierte der bekannte Naturforscher Carl von Linné die Gattung der Schafgarben und benannte sie in Anlehnung an diese Sage als Achillea.

Der Trivialname „Schafgarbe“ bezieht sich vermutlich auf ihr häufiges Auftreten auf Viehweiden, wo die zarten Blätter insbesondere von Schafen mit großer Vorliebe verzehrt werden. Es ist denkbar, dass sich auch die Schafe intuitiv ihre verdauungsfördernde Wirkung zu Nutze machen. Der Wortbestandteil „Garbe“ entstammt dem altdeutschen Begriff „garwa“, dessen Bedeutung etymologisch zwar nicht eindeutig belegt ist, welcher aber in diesem Zusammenhang im Sinne von „bereitstehend“ gedeutet wird. Somit ist die Schafgarbe ein auf Schafweiden zur (Wund)Heilung bereitstehendes Kraut.

Früher war die Schafgarbe unter dem deutschen Begriff Soldatenkraut bekannt und wurde in erster Linie von Soldaten und Kriegern zur Behandlung von Wunden und Verletzungen eingesetzt. Schnell erhielt die Pflanze auch Einzug in die Küche, wo sie als traditioneller Bestandteil der Gründonnerstagssuppe verwendet wurde. Rund um die Schafgarbe ranken sich viele Geschichten und Bräuche. In Teilen Frankreichs wird das Kraut teilweise als „en rêve“ bezeichnet, da es Kindern früher vor dem Zubettgehen auf die Augen gelegt wurde, um schöne Träume herbeizuführen. Auf Grund seines intensiven Geruchs soll das Kraut sogar zum Schutz gegen die Pest in Fenster und Türen gehangen worden sein.