Sylvie Bermann entreprend sa carrière diplomatique en 1979 lorsqu’elle devient Vice-consul de France à Hong-Kong à une période où l’actuelle région administrative spéciale faisait encore partie des colonies britanniques.

Elle est par la suite nommée deuxième secrétaire à l’ambassade de France en Chine à la Direction Asie et Océanie du Quai d’Orsay. Puis, elle devient deuxième conseillère à l’ambassade de France en Russie, ou plus précisément en ex URSS, «colosse au pied d’argile», comme la désigne Sylvie Bermann: un pays fort en apparence mais qui s’avérait en réalité très fragile. En poste durant la perestroïka (littéralement «la reconstruction»), Sylvie Bermann a vu de près les réformes économiques et sociales, entreprises par le président Gorbatchev.

En 1992, elle devient deuxième conseiller à la mission permanente de la France auprès de l’Organisation des Nations unies (ONU) à New York, avant d’être nommée à la tête du département de politique étrangère et de sécurité au ministère des Affaires étrangères.

En 2002, elle devient ambassadeur représentant permanent de la France auprès de l’union de l'Europe occidentale et du comité politique et de sécurité («COPS») de l’Union européenne à Bruxelles.

En février 2011, Sylvie Bermann est nommée ambassadeur extraordinaire et plénipotentiaire de France en Chine. Elle devient la première femme à occuper les fonctions d’ambassadeur de France auprès d’un pays membre permanent du Conseil de sécurité des Nations unies.
Elle devient ensuite directrice des Nations unies, des organisations internationales, des droits de l’Homme et de la Francophonie (NUOI) au ministère des Affaires étrangères de décembre 2005 à février 2011.

Le 19 juin 2019, Sylvie Bermann est élevée en Conseil des ministres à la dignité d’ambassadrice de France. Une fois encore, elle est la première femme élevée à cette dignité.
Elle met fin à ses fonctions d’ambassadeur à la fin de l’année 2021 pour rejoindre la présidence du groupe Minsk, sous-groupe politique qui lutte pour la réintégration du Donbass dans l’Ukraine, dans le cadre de l’organisation pour la sécurité et la coopération en Europe (OSCE).