비교하고 계신 것들이 하필 객체인데 indexOf()는 객체 인스턴스를 엄격하게 비교하기 때문에 그렇다고 합니다. const o에 담긴 객체와 arr.indexOf()에 담긴 객체는 겉보기는 똑같지만 객체의 인스턴스가 다르므로 서로 다른 별개의 객체들입니다. 따라서 둘을 같다고 할 수가 없습니다. const arr 안에 있는 [1, 2]와 arr.indexOf([1, 2])의 경우도 마찬가지입니다.

// 콘솔에서 돌려 보세요.
const A = {name: "A"}; /* 이 시점에서 인스턴스 1개 */
A === {name: "A"}; /* 비교하려는 과정에서 새 인스턴스가 1개 더 생김, 둘은 다름, 결과는 false */
[1, 2] === [1, 2]; /* 이것도 같은 이치로 false */

답변

1. 배열 안에 그 객체가 직접 존재하지 않아서라기보다, 배열 안에 존재하는 그 객체 인스턴스를 찾지 않기 때문입니다. arr.indexOf({ name: "Jerry" })는 arr 배열 안에서 (우연의 일치로 { name: "Jerry" }를 내용으로 갖는) 새 인스턴스를 찾아달라는 명령입니다. 방금 새로 만든 인스턴스를 기존의 배열 안에서 찾아 달라고 하면 없다고 할 수밖에 없습니다.
2. 1번과 같은 원리입니다. 실제로 arr 안에는 [1, 2]의 내용을 가진 인스턴스가 존재하지만 arr.indexOf([1, 2])를 했을 때는 그 인스턴스를 찾는 게 아니라 별도의 인스턴스(우연히 [1, 2]라는 내용을 갖는)를 찾으려고 시도하게 됩니다. 결과는 "없음"이 되지요. arr.indexOf(o)는 작동하잖아요? o라는 이름을 가진 바로 그걸 찾으려고 시도하니 결과가 나오는 겁니다.

저도 답변 달면서 공부가 되었네요. 도움이 되면 좋겠습니다.