解説

正確な議論は大学範囲になりますので、ここではごく簡単に扱います。
まず、作図可能な正多角形は、結果的には、3, 4, 5, 6, 8, 10, 12, 15, 16, 17, 20, 24, 30, 32, 34, 40, 48, 51, 60, 64, 68, 80, 85, 96, 102, 120, 128, 136, 160, 170, 192, 204, 240, 255, 256, 257, 272, … のようなものと求められています

そこで、例えば p＝5, q＝8 であれば、pq＝40 で、実際には作図可能なものとなっています。
一方、p＝5, q＝10 のとき、pq＝50 となりますが、これは作図可能なものに含まれていません。

よって、必ずしも「一つの円に正p角形、正q角形が作図できるなら、正pq角形も作図できる」とは言い切れません。
 
ただし、p＝5, q＝8 のときのように、p と q が互いに素（＝最大公約数が１）であれば作図可能です。
（※ 互いに素でなくても、p＝10, q＝12, pq＝120 のように、作図可能となる場合もあります）
 
互いに素である場合ですが、正多角形が内接する円で考えてみます。わかりやすく単位円で考え、（1, 0）つまり θ＝0° の点を A としておきます

まず正p角形の場合、各頂点は「中心から見て（360°を）1/p ずつ」した箇所（1/p, 2/p, 3/p, … ）にあります。
正q角形の場合も同様で、各頂点は「中心から見て 1/q ずつ」の箇所（1/q, 2/q, 3/q, … ）にあります。
（実際の角の大きさとしては、360°、または 2π（弧度法）をかけてください）

このとき、点A を基準に各頂点を順番に見ていって、どこかのタイミングで 1/pq の差になっている箇所が見つかれば、その２点間を正pq角形の一辺とすることで、正pq角形を書くことができます（その長さをコンパスでとって、円に沿って頂点をとっていけばいい）
 
例えば、正5角形（中心から見て1/5ずつ・72°ごとに頂点）と、正8角形（1/8ずつ・45°ごとに頂点）を考えてみます。
このとき、点A から 72°ずつとっていくと、今回は２つ目で 144°という角が登場します。
一方、点A から 45°ずつとっていくと、３つ目で 135°という角が登場します。
この差の 9°というのが、360÷（5×8）に対応しています。
 
この計算ですが、数Aの一次不定方程式から見つけることが出来ます。

今回は、（1/p）× m －（1/q）× n ＝ 1/pq となるような整数（m, n）が見つかればいいわけです。ちなみに負の数でも構いません。負であれば、点A から逆向きに角を測ってください。

この式の両辺に pq をかけると、qm－pn＝1 になります。

そして、p と q は互いに素（最大公約数が１）なので、ユークリッドの互除法を用いて変形すれば、qm－pn＝1 を満たす整数解が必ず存在していることになります。