Docker Compose kann man auf unterschiedlichen Wegen installieren.

Seit Ubuntu 16.04 (xenial) ist das Paket enthalten und kann direkt installiert werden.

sudo apt install docker-compose

Es gibt jedoch auch ein Docker Image von Compose.

docker pull docker/compose

Gestartet wird Compose im dem Parameter version.

docker run docker/compose version

Der Start von docker-compose up von Datei docker-compose.yml ist so nicht möglich.

Dazu braucht es noch eine Mount zum Docker Socket und zum aktuellen Verzeichnis.

docker run --rm \
    -v /var/run/docker.sock:/var/run/docker.sock \
    -v "$PWD:$PWD" \
    -w="$PWD" \
    docker/compose up

Mit einem Alias kann man docker-compose up normal verwenden.

echo alias docker-compose="'"'docker run --rm \
    -v /var/run/docker.sock:/var/run/docker.sock \
    -v "$PWD:$PWD" \
    -w="$PWD" \
    docker/compose'"'" >> ~/.bash_aliases

Quelle: Docker Compose Install