M se creó el 15 de junio de 1911 en Binghamton (Estados Unidos) como resultado de la fusión gestionada por Charles R. Flint de su empresa, la Tabulating Machine Company (fundada por Herman Hollerith en 1896), con Computing Scale Corporation e International Time Recording Company. La empresa formada de la fusión fue llamada Computing Tabulating Recording Corporation (CTR), pero el 14 de febrero de 1924 CTR cambió su nombre a International Business Machines Corporation (IBM), se dice que debido a una especie de broma, al ser la líder del sector la compañía de máquinas registradoras «National».
Las empresas originarias de CTR fabricaban una amplia gama de productos, desde sistemas para el control de empleados hasta equipos automatizados para el corte de carne. Además fabricaban equipos para la gestión de tarjetas perforadas, que serían un elemento clave de los futuros computadores. Con el tiempo, CTR se centraría en estos equipos y dejaría a un lado la fabricación del resto de productos.
Durante la Segunda Guerra Mundial, IBM comenzó a investigar en el campo de la informática. En 1944 terminó de construir el computador Automatic Sequence Controlled Calculator -Calculadora Controlada por Secuencia Automática-, también conocido como Mark I. El Mark I fue la primera máquina capaz de ejecutar cálculos complejos automáticamente, y estaba basada en interruptores electromecánicos.
En 1952, IBM creó el IBM 701, el primer gran computador basado en válvulas de vacío, tecnología que substituyó a los interruptores electromecánicos. En 1954 introdujo la IBM 650. En 1959, los transistores empezaron a substituir a las válvulas de vacío. Uno de los primeros computadores de IBM basados en transistores fue el IBM 7090. Hasta aquel entonces, los computadores se usaban principalmente en centros de investigación y del gobierno, pero la mejora de rendimiento alcanzada con las válvulas y especialmente con los transistores, hizo que algunas empresas comenzaran a utilizarlos.
El primer sistema de almacenamiento informático basado en disco, llamado RAMAC, y el lenguaje de programación FORTRAN fueron creados por IBM en 1957. El RAMAC es el predecesor de los discos duros actuales y estaba formado internamente por cincuenta discos.
A comienzos de los años 1960, IBM comenzó a transformarse en una empresa dedicada exclusivamente a la informática, dejando paulatinamente la fabricación de equipos para tarjetas perforadas y máquinas de escribir. Estas últimas las empezó a fabricar a mediados de los años 1930.
El 7 de abril de 1964, IBM lanzó el System/360, la primera arquitectura de computadores que permitía intercambiar los programas y periféricos entre los distintos equipos componentes de la arquitectura, al contrario de lo existente anteriormente, en que cada equipo era una caja cerrada incompatible con los demás. La orden de crear esta arquitectura partió directamente del gerente de IBM de la época, Thomas J. Watson, Jr.. El desarrollo del System/360 fue tan costoso que prácticamente llevó a la quiebra a IBM, pero tuvo tal éxito al lanzarse al mercado que los nuevos ingresos y el liderazgo que consiguió IBM respecto a sus competidores les resarcieron de todos los gastos.
Fue tal el éxito de IBM de mediados de los años 1960 que provocó que la empresa fuera investigada por monopolio. De hecho, tuvo un juicio, que comenzó en 1969, en el que fue acusada de intentar monopolizar el mercado de los dispositivos electrónicos de propósito general, concretamente el mercado de computadores empresariales. El juicio continuó hasta 1983 y tuvo gran impacto en las prácticas de la empresa.
Durante los años 1970, IBM continuó creando nuevos dispositivos informáticos. En 1971 creó el disco flexible y poco después empezó a comercializar predecesores de los actuales lectores de códigos de barras y cajeros automáticos.
Edificio de IBM en Madrid (España), de 1989.
En 1981, IBM creó el IBM PC, que es el computador personal de más éxito de todos los tiempos. Este éxito no era esperado por IBM, que creó el IBM PC de forma rápida y comprando componentes de gama baja a otros fabricantes, cosa que no había hecho hasta el momento, para que el IBM PC no absorbiera parte del mercado de computadores más potentes de IBM. Además, el sistema operativo del IBM PC tampoco fue creado por IBM, sino que fue contratado con Microsoft.
Debido a que no estaba creado desde cero por IBM, poco después comenzaron a aparecer equipos compatibles con el IBM PC de otros fabricantes, y Microsoft empezó a crecer al vender licencias del sistema operativo del IBM PC a estos otros fabricantes.
Durante los años 1980 IBM forjó cuatro premios Nobel.
El 19 de enero de 1993, IBM anunció unas pérdidas de cerca de 8.000 millones de dólares, lo que fue el récord de pérdidas en una empresa de toda la historia de los Estados Unidos. Parte de esas pérdidas se deben a que el IBM PC absorbió gran parte del mercado de computadores más potentes y a que los fabricantes de computadores compatibles con el IBM PC cada vez tenían más cuota de mercado. El gran cambio en IBM se da en 1993 cuando se elige como Chief Executive Officer a Louis V. Gerstner, el primer ejecutivo de alto nivel en la historia de IBM que no provenía de sus propias filas. Lou, como se le conoce, había sido CEO en empresas de fabricación de alimentos, cigarrillos y tarjetas de crédito, pero jamás de empresas de tecnología. A partir de entonces, IBM comenzó a transformarse en una empresa de servicios, reduciendo su dependencia económica de la venta de equipos. Esta tendencia se incrementó, especialmente desde que en 2002 Samuel J. Palmisano, sucesor de Lou, dejara de dirigir la rama de servicios de IBM para convertirse en el nuevo primer ejecutivo de la empresa. En el 2003, alrededor del 50% de los ingresos de IBM provienen de la rama de servicios, mientras que la venta de equipos supone aproximadamente el 30%.
El 10 de diciembre de 2004, IBM terminó las negociaciones encaminadas a vender la división de PC al grupo chino Lenovo por 650 millones de dólares en efectivo y 600 millones más en acciones (un 19% de Lenovo). Junto con la división de PC, Lenovo consigue alrededor de 10.000 empleados de IBM y el derecho a usar las marcas IBM y Thinkpad durante cinco años.
