Rosenstein abandonó un programa de posgrado en informática en Stanford en 2004 para unirse a Google como gerente de producto. En Google, Rosenstein dirigió proyectos en la división de comunicación y colaboración de Google. Inicialmente, sus proyectos incluían Google Page Creator, el precursor de Google Sites, y un proyecto con nombre en código interno "Platypus", que finalmente se convirtió en Google Drive. También creó y escribió el prototipo original de Gmail Chat y muchas de las funciones del editor de texto enriquecido de Google.
En mayo de 2007, Rosenstein dejó Google para convertirse en líder de ingeniería en Facebook, trabajando en estrecha colaboración con Mark Zuckerberg y Dustin Moskovitz. Fue el líder técnico a cargo de las páginas de Facebook, el botón Me gusta de Facebook y Facebook Beacon.
En octubre de 2008, Rosenstein dejó Facebook para cofundar la empresa de software colaborativo Asana junto con Moskovitz. En su sitio web, Asana afirma que su misión es "ayudar a la humanidad a prosperar al permitir que todos los equipos trabajen juntos sin esfuerzo". Es un orador frecuente sobre temas de negocios y tecnología. Ha publicado opiniones sobre la construcción de software colaborativo efectivo en Wired, estrategia de liderazgo y diseño de software empresarial en Fast Company, y emprendimiento en TechCrunch y productividad en TIME.
