It may be an agglomeration of the Latin grandis piscis or French grand poisson, both meaning big fish.
Ordet grampus kan antingen komma ifrån det latinska grandis piscis eller franskans grand poisson, båda betyder ”stor fisk”.