data = ['안녕', '안녕하세요', '하이']
if inp in data:
    print('무엇을 도와드릴까요?')

작성하신 코드가 항상 '무엇을 도와드릴까요?'만 나오는 이유는 아래 코드에서 data의 값이 boolean 인 true 이기 때문 입니다.

def chat():
    print('start chatbot')
    while True:
        inp = input("user :")

        if inp == "종료":
            print('챗봇 서비스를 종료합니다.')
            break

        data = "안녕하세요"or"안녕"or"하이" # 여기에서 data는 true로 설정 됨
        if data: 
            # data가 true 이므로, 항상 이곳을 실행
            print("무엇을 도와드릴까요?")
        else:
            print('다시한번 말씀해 주시겠습니까?')

chat()

원하시는 대로 작동 되게 하려면,

def chat():
    print('start chatbot')
    while True:
        inp = input("user :")

        if inp == "종료":
            print('챗봇 서비스를 종료합니다.')
            break

        data = ["안녕하세요", "안녕", "하이"]
        if inp in data:
            # 입력 받은 문자가 data 리스트 안에 있으면 수행
            print("무엇을 도와드릴까요?")
        else:
            # 없으면 이곳을 수행
            print('다시한번 말씀해 주시겠습니까?')

chat()