AI Agent Memory

 

 

LLM에게 보내는 요청은 모두 새로운 요청이어서 , 기존의 질문(요청)에 대해 기억하지 못한다.

예를들어 내 이름을 알려주고 , 바로 내 이름이 뭔지 물어보면 기억하지 못한다.

따라서 상태를 기억하기 위해서 즉 내가 이전에 이야기 한 내용을 유지하기 위해서는 Memory기능을 이용해야한다.

 

일단 간단하게 In memory에 입력하는 방법을 사용해볼 것이다. 

대강 아래와 같이 코드를 작성해보았다. 전역변수로 messages이라는 배열을 만들고, 모든 대화를 이 배열에 넣는 것이다.

이렇게 함으로써 나의 대화를 기억하고 이어나갈 수 있는 것이다.

messages = []

def call_ai():
    answer = client.chat.completions.create(
        model="gpt-4o-mini",
        messages=messages
    ) 
    message = answer.choices[0].message.content
    print(f"AI : {message}")
    messages.append(
        {
            "role" : "assistant",
            "content" : message
        }
    )
  
    
while True:
    from_user_question = input("AI에게 질문하세요.")
    if from_user_question == "quit" or from_user_question == "q":
        break
    print(f"User : {from_user_question}")
    messages.append({
        "role" : "user",
        "content" : from_user_question
    })
    call_ai()

 

다만, 내가 현재 프로세스를 중단하거나, 대화 내용이 길어지면 문제가 생길 수 있다.