Una forma es hacer uso de una "clase de tabla" de sqlalchemy y session.merge(fila), session.commit():
Aquí hay un ejemplo:
for row in range(0, len(df)):
row_data = table_class(column_1=df.ix[i]['column_name'],
column_2=df.ix[i]['column_name'],
...
)
session.merge(row_data)
session.commit()