Преводаческата памет е в най-простата си форма база данни, в която преводачът може да записва стари преводи за бъдеща повторна употреба и лесно търсене. Въпреки че тези програми най-добре се класифицират като компютърно подпомаган превод, те не бива да се бъркат с програмите за машинен превод — софтуерът за преводаческа памет не превежда нищо сам по себе си, докато системата за машинен превод активно произвежда език и преводи, базирани на лингвистични данни като граматични правила и речници. Системата с преводаческа памет оставя цялото действително превеждане на човека преводач.
По същество преводаческата памет записва двойки изречения: сегмент на изходния език (обикновено изречение) се комбинира заедно със сегмент на целевия език. Ако по-късно в друг превод се появи идентичен (или подобен) сегмент на изходния език, програмата за преводаческа памет ще намери преди това преведения сегмент и ще го предложи като основа за новия превод. Предложението може да бъде одобрено както е, редактирано, за да съответства на текущата ситуация, или изцяло отхвърлено. Повечето програми използват алгоритъм за „размито съвпадение“ (fuzzy matching), което прави програмите още по-полезни; търсенията ще намират не само стопроцентови съвпадения, но и сегменти, които само до известна степен приличат на търсената фраза. Има голямо сходство между различните софтуерни пакети. Възможно е да се търсят не само пълни сегменти, но също и отделни думи или фрази, което помага на преводача да намира терминология и да поддържа текста последователен. Освен това обикновено има интерфейс към програма за управление на терминология — обикновено собствена на производителя, понякога и към програми на трети страни.
Съществуват програми за преводаческа памет, които работят съвместно и със софтуер за машинен превод. Някои работят директно в съществуващ текстообработващ редактор, други (повечето) имат собствен редактор. Всички тези пакети имат филтри за импортиране и експортиране на различни файлови формати. Повечето, ако не всички, предоставят и инструмент за подравняване за добавяне на по-стари преводи (извършени без софтуера) в паметта за повторна употреба.