Решение 

Возможно решение, основанное на такой лемме.Пусть две окружности радиусов r и R касаются друг друга внешним образом и касаются обшей касательной в точках A и B. Тогда `AB=2sqrt(Rr)`.Тогда имеем: расстояние от точки касания окружности с заданным радиусом до вершины угла равно `x=Rctg(alpha/2)=4/3R` (`alpha = /_MKN`).Используя лемму и подобие треугольников получаем `R/x=r/(x+-2sqrt(Rr))`, откуда приходим к уравнению `4R^2-17Rr+4r^2=0`.