Una memoria de traducción es, en su forma más simple, una base de datos donde un traductor puede registrar traducciones anteriores para reutilización futura y búsquedas fáciles. Aunque estos programas se clasifican mejor como traducción asistida por ordenador, no debe confundirse con programas de traducción automática; el software de memoria de traducción no traduce nada por sí mismo, mientras que un sistema de traducción automática produce activamente lenguaje y traducciones basándose en datos lingüísticos, como reglas gramaticales y glosarios. Un sistema de memoria de traducción deja toda la traducción real al traductor humano.
Básicamente, la memoria de traducción registra pares de segmentos: un segmento en lengua de partida (normalmente una oración) se combina con un segmento en lengua de llegada. Si un segmento en lengua de partida idéntico (o similar) aparece en otra traducción posterior, el programa de memoria de traducción encontrará el segmento previamente traducido y lo sugerirá como base para la nueva traducción. La sugerencia puede ser aprobada tal cual, editada para adaptarse a la situación actual o rechazada completamente. La mayoría de programas utilizan un algoritmo de «coincidencia difusa», lo que hace que los programas sean cada vez más útiles; las búsquedas encontrarán no solo coincidencias al 100 por ciento, sino también segmentos que solo se asemejan a la frase de búsqueda en cierta medida. Existen muchas similitudes entre los diversos paquetes de software. Es posible buscar no solo segmentos completos, sino también palabras o frases individuales, lo que ayuda al traductor a encontrar terminología y mantener la coherencia del texto. Además, normalmente existe una interfaz con un programa de gestión de terminología, generalmente del fabricante, a veces también de terceros.
Existen programas de memoria de traducción que funcionan junto con software de traducción automática. Algunos funcionan directamente dentro de un procesador de textos existente, otros (la mayoría) tienen su propio editor. Todos estos paquetes incluyen filtros para importar y exportar varios formatos de archivo. La mayoría, si no todos, también proporcionan una herramienta de alineación para añadir traducciones anteriores (no realizadas con el software) a la memoria para su reutilización.