Wie es der Name des Australian Kelpie vermuten lässt, ist seine noch nicht vollständig erforschte Geschichte mit Australien verbunden – doch auch mit Großbritannien, denn es war eine schottische Einwanderer-Familie namens Rutherford, die um 1870 ihre Collis mitbrachten.
In Australien wurden zu dieser Zeit viel neues Land in Besitz genommen und vor allem für die Schafzucht verwendet. Grundstücke, die Millionen von Hektar Land umfassten, waren ohne gute Hunde kaum mit Schafen zu bewirten. Da eine Colliehündin der Familie Rutherford Auszeichnungen bei Hütehundwettbewerben gewann, wurde diese Zuchtlinie immer beliebter. So wurden die Collis aus Schottland durch ihre gute Hütefähigkeit so beliebt, dass sich eine neue Hunderasse entwickelte. Benannt nach Rutherfords Collie Hündin Kelpie.
Mit den Jahrzehnten wandelte sich das Aussehen des Australian Kelpie durch das Einkreuzen anderer britischer Hütehunde. War er zu Beginn noch langhaarig und dem Collie ähnlich, hat er heute kurzes schwarzes Fell und aufrechte spitze Ohren.